Sve složeniji sajber napadi uz pomoć AI alata pokazuju koliko veštačka inteligencija može da promeni način na koji se sprovode ovakve operacije. Ono što je ranije zahtevalo mnogo vremena i truda sada može da bude znatno jednostavnije, što su pokazali i istraživači za sajber bezbednost iz američkog startapa "Haktron AI". Oni su uspeli da kompromituju naloge više zaposlenih u kompaniji OpenAI na platformi ČetGPT, koristeći u početnoj fazi četbot Klod kompanije Antropik.
Istraživači su naveli da im je napad omogućio pristup softverskom kešu, odnosno podacima ciljanih korisnika, kao i potencijalno drugim podacima. Kako su naveli, obim podataka kojima su teoretski mogli da pristupe bio je ogroman. Operacija je sprovedena u okviru programa OpenAI za etičko testiranje bezbednosti, u kojem kompanija nagrađuje istraživače koji otkriju ranjivosti u njenim sistemima.
Kako je izveden napad
Tim Haktron je najpre koristio Klod kako bi pristupio nalozima zaposlenih u OpenAI preko internog foruma za diskusiju. Potom su podneli naizgled bezopasan zahtev za izmenu programskog koda koji je OpenAI čuvao na platformi GitHab. Istraživači su saopštili da su imali pristup kodu na repozitorijumu, ali da ga nisu preuzeli.
Iako je Klod korišćen u početnoj fazi, istraživači su naveli da su za najveći deo operacije koristili AI model GPT-5.6 Sol kompanije OpenAI.
Portparol OpenAI zahvalio je istraživačima na prijavljenim nalazima i naveo da je kompanija otklonila ranjivosti koje su iskorišćene tokom napada. Iz Haktrona su, sa druge strane, naveli da su AI alati znatno olakšali ranije složene hakerske operacije i skratili vreme potrebno za pripremu napada.
"Posao koji je nekada zahtevao dobro opremljen tim i mesece truda sada se može završiti za nekoliko dana", rekao je Haktron, koji je dobio isplatu od 6.500 dolara od OpenAI-ja.
Novi slučaj u trenutku rasprave o bezbednosti AI
Ovaj test bezbednosti dolazi u trenutku kada se sve više govori o potencijalnim opasnostima i granicama razvoja veštačke inteligencije. OpenAI je ranije objavio više primera "neočekivanog ili zabrinjavajućeg" ponašanja svoje tehnologije i upozorio da tempo razvoja AI još dugo neće moći da se nastavi "maksimalnom brzinom".
Kompanija Antropik je tokom vikenda ponovo pozvala na usporavanje razvoja veštačke inteligencije, a taj poziv podržali su OpenAI, Gugl DipMajnd i Ilon Mask, prenosi "Gardijan".