Temna stran ChatGPT: Kako kibernetski kriminalci izkoriščajo orodja AI?
Temna stran ChatGPT: Kako kibernetski kriminalci izkoriščajo orodja AI?
Razvoj orodij AI lahko pomeni dodatno težavo za kibernetsko varnost organizacij. Spletni napadalci namreč že uporabljajo orodja, kot je ChatGPT, za razvoj zlonamerne programske opreme, ustvarjanje phishing kampanj in izvajanje drugih zlonamernih operacij.
Konec novembra 2022 je podjetje OpenAI javnosti predstavilo ChatGPT, s katerim je takoj povzročilo val zanimanja za AI in njegove široke zmožnosti uporabe. Gre za revolucionarno orodje, ki komunicira z uporabniki v pogovornem, človeškem slogu in ustvarja natančne, prilagojene odgovore na uporabniške poizvedbe in pozive. Med drugimi zmogljivostmi lahko sam piše tudi programsko kodo v različnih programskih jezikih, odpravlja napake v kodi in razlaga zapletene teme.
Je ChatGPT novo orožje spletnih kriminalcev?
Čeprav je bil ChatGPT zasnovan na način, da naj bi filtriral neprimerne, nezakonite in škodljive zahteve, kot je ustvarjanje zlonamerne kode ali ustvarjanje lažnih e-poštnih sporočil, so zlonamerni uporabniki že odkrili način, kako te varnostne mehanizme zaobiti. In to na zelo preprost način – tako da so se ognili neposrednim omembam škodljivih izrazov, kot so na primer zlonamerna programska oprema, vdor, phishing itd.
ChatGPT lahko tako napadalci uporabijo za hitrejše in enostavnejše izvajanje kibernetskih napadov s pomočjo kode, ustvarjene z umetno inteligenco. Za njeno ustvarjanje je včasih uporabnik potreboval veliko več računalniškega znanja, kot ga bo potreboval sedaj. Orodje je uporabno tudi z vidika analize obstoječih vrst zlonamerne programske opreme in ustvarjanja novih. Z njim lahko napadalci tudi odpravljajo napake pri kodiranju in dodajajo tehnike, s katerimi preprečijo varnostnim mehanizmom njihovo odkrivanje.
Prav tako se s pojavom tovrstnih orodij odpira priložnost za ustvarjanje edinstvenih, zavajajočih e-poštnih sporočil, ki jih bodo lahko napadalci prosto uporabljali v svojih phishing kampanjah. ChatGPT lahko namreč ustvarja zlonamerna sporočila profesionalnega videza brez očitnih jezikovnih anomalij, hkrati pa lahko prilagaja stil pisanja in s tem na primer poveča urgentnost sporočila, kar je zelo pogost trik napadalcev, s katerim uspejo pretentati svoje žrtve. Med drugim lahko ChatGPT tudi "posnema" slog pisanja znanih osebnosti.
Kako uspešen je ChatGPT pri ustvarjanju phishing sporočila v slovenskem jeziku, smo preizkusili tudi sami:
Takšni primeri uporabe umetne inteligence razkrivajo, kako se bo podoba napadov v prihodnosti spreminjala. Upoštevajoč vsa ta tveganja, bodo morale organizacije v prihodnje tovrstnim grožnjami posvečati še več pozornosti in opozarjati svoje zaposlene na dodatno previdnost v zvezi z lažnimi e-poštnimi sporočili.
Je vaša organizacija ogrožena?
Neosveščeni in neuki zaposleni bodo skoraj zagotovo slej kot prej padli v past pretkanih napadalcev. Usposabljanje iz informacijske varnosti je zato ključnega pomena, da svojim zaposlenim pomagate sprejemati prave odločitve in s tem vaši organizaciji pomagate pri boljši obrambi pred kibernetsko kriminaliteto. V ta namen smo pripravili on-line usposabljanje, kjer uporabnikom na praktičen način predstavimo različne nasvete s področja kibernetske varnosti. Hkrati pa z osvežitvenimi vsebinami poskrbimo, da je to učenje nenehno in podprto z aktualnimi vsebinami.
Zahtevajte BREZPLAČEN demo dostop zdaj!
Za konec še nekaj zanimivih statistik o ChatGPT
- ChatGPT je v samo 5 dneh presegel 1 milijon uporabnikov. Za primerjavo, Facebook je za to potreboval 10 mesecev, Instagram 2 meseca, Netlix pa 3,5 leta.
- ChatGPT je imel januarja 590 milijonov mesečnih obiskov, njegovo skupno število uporabnikov pa je doseglo že 100 milijonov.
- Dnevni stroški delovanja ChatGPT naj bi znašali približno 100.000 dolarjev, mesečni pa 3 milijone dolarjev.
- Model ChatGPT naj bi imel 175 milijard parametrov in bi naj prejel 10 milijonov poizvedb na dan.
- ChatGPT ne more dostopati do interneta ali zunanjih povezav. Zagotavlja lahko le informacije in odgovarja na vprašanja, ki temeljijo na besedilu, na katerem se je usposabljal.
- Microsoft je v podjetje Open AI do sedaj vložil 1 milijardo dolarjev in tudi že potrdil dodatne naložbe v višini 10 milijard dolarjev.
- Tudi Google bo kmalu lansiral svojo različico klepetalnega robota z umetno inteligenco, imenovan Bard AI.
(Vir: Nerdy Nav)
Želite več tovrstnih vsebin s področja Informacijske varnosti? Potem vas vabimo k prijavi na mesečne e-novice s področja informacijske varnosti, kjer skrbimo za vašo osveščenost ter obveščenost o aktualnih oblikah kibernetskih napadov.
