Više od četiri dana su dva "OpenAI" modela autonomno izvodila sajber napade na internetu, nakon što su tokom bezbednosnog testiranja izašla iz kontrolisanog okruženja, pokazuje nova analiza AI platforme "Haging fejs (Hugging Face)".
Modeli su između 9. i 13. jula izveli oko 17.600 hakerskih aktivnosti. Kako navodi "Haging fejs", sa početnog uporišta na otvorenom internetu uspeli su da se prebace na servere te kompanije.
"OpenAI" je prošle sedmice potvrdio da su dva njegova napredna modela "pobegla" iz zatvorenog testnog okruženja i kombinovala više tehnika kako bi prodrla u sisteme "Haging fejsa". Kompanija je tada navela da je reč o prvom poznatom slučaju autonomnog sajber napada koji nije pokrenuo čovek.
Nova analiza sada otkriva više detalja o obimu i trajanju incidenta. Jedan od modela koji su učestvovali u napadu javno je dostupan, dok je drugi interni prototip. Tokom višednevnih aktivnosti brzo su izviđali sisteme i pronalazili bezbednosne propuste - znatno brže nego što bi to mogao ljudski haker.
Otkriveno je i da je jedan agent "OpenAI" ostavio beleške budućim verzijama sebe sa savetima kako da zaobiđu interna ograničenja, ali nije potvrđeno da li je taj slučaj povezan sa napadom na "Haging fejs".
U međuvremenu je i AI kompanija "Modal labs (Modal Labs)" potvrdila da je jedan od njenih korisnika bio meta istih modela tokom tog perioda, prenosi Tanjug.
"OpenAI" nije direktno komentarisao tvrdnje da su modeli ciljali korisnika "Modal labsa", ali je u objavi na svom blogu naveo da je interna istraga otkrila nekoliko slučajeva u kojima su modeli identifikovali i iskoristili javno dostupne akreditive za naloge na drugim servisima.
Šef "Haging fejsa" traži "radikalnu transparentnost"
Izvršni direktor "Haging fejsa" Klement Delang zatražio je od "OpenAI" potpunu transparentnost u istrazi, ocenivši da je reč o događaju bez presedana koji zahteva i odgovor bez presedana.
On je zatražio objavljivanje tragova aktivnosti "odbeglih" agenata, kako bi istraživačka zajednica mogla da analizira šta se tačno dogodilo i na koji način su modeli uspeli da zaobiđu ograničenja.
Delang je pozvao "OpenAI" i da obezbedi računarske kapacitete u vrednosti od 100 miliona dolara, kako bi zajednica "Haging fejsa" mogla da razvije snažniju sajber zaštitu uz pomoć najnaprednijih otvorenih i zatvorenih AI modela.
Direktor kompanije "OpenAI" Sem Altman je o hakovanju "Haging fejsa" u podkastu izjavio da je prodor u sisteme te platforme bio "prvi bezbednosni incident koji ga je zaista ozbiljno zabrinuo".