"Antropik" upozorava: AI bi uskoro mogla da preuzme kontrolu nad kućnim aparatima

Modeli veštačke inteligencije bi do kraja ove godine mogli postati sposobni da samostalno "zaraze" kućne aparate - uključujući pametne televizore i rerne – i prošire se među njima, upozorio je američki tehnološki gigant "Antropik".

U izveštaju o istraživanju kompanija - najpoznatija po svom čet-botu "klod" – navela je da eksperimenti ukazuju na to da bi "mali AI modeli mogli biti udaljeni svega nekoliko meseci od trenutka kada će biti dovoljno sposobni za samoreplikaciju" na uređajima povezanim na internet.

Takve "AI crve" bilo bi teško ukloniti jer ne bi postojala "centralna tačka preko koje bi mogli da se isključe", upozorili su istraživači.

Šta su pokazali testovi na 15 android TV uređaja

Kompanija "Antropik" je saopštila da je uspešno pokrenula AI model na 15 jeftinih android TV uređaja povezanih u mrežu. U odvojenim testovima, napredniji modeli su pokazali sposobnost replikacije na simuliranim uređajima, iako su eksperimenti pojednostavili proces pristupa tim uređajima.

Istraživači su naglasili da za sada nije poznato postojanje potpuno autonomnog, odmetnutog AI replikatora. Međutim, manji modeli su sve sposobniji da izvrše pojedinačne korake neophodne za širenje bez ljudske intervencije.

Pametni kućni uređaji su posebno ranjivi jer često imaju ograničene bezbednosne mehanizme. Prema navodima kompanije "Antropik", čak i aparati sa relativno malom računarskom snagom - uključujući frižidere, rerne, robotske usisivače i kosilice, mogli bi zajednički da podrže rad AI modela.

Sigurnosne kamere i drugi uređaji opremljeni ugrađenim AI čipovima takođe bi mogli postati privlačne mete.

Za razliku od konvencionalnog malvera, koji obično cilja određeni hardver ili softver, samoreplicirajuća veštačka inteligencija mogla bi da se prilagodi nepoznatim sistemima i prenese uspešne tehnike na naredne kopije.

"Antropik" je upozorio da bi takve "infekcije" mogle varirati od "digitalne sluzave plesni" koja se sporo širi kroz kućne uređaje, pa sve do moćnijih AI agenata sposobnih da brzo ugroze centre podataka.

Kompanija je priznala da su njene procene i dalje neizvesne, ali je napomenula da su sve sposobniji AI sistemi učinili autonomnu replikaciju i prilagođavanje realnijom pretnjom.

Što više vremena provodimo sa AI, to više postajemo nalik robotima, ukazuje studija

U posebnom izveštaju objavljenom prošle nedelje, "Antropik" je otkrio da je njihov model "klod haiku 4.5", tokom automatizovanog testa, policiji u Filadelfiji prosledio lažnu dojavu u vezi sa nerešenim slučajem ubistva. Prijava je označena kao neželjeni sadržaj (spam) i nikada nije stigla do istražitelja, ali je policija kritikovala kompaniju jer joj je bilo potrebno više od dva meseca da otkrije i prijavi taj incident.

Kompanija je takođe prijavila slučajeve u kojima su njeni modeli tokom testiranja zaobilazili ograničenja pristupa i koristili softverske ranjivosti, uključujući i na vladinim veb-sajtovima. Iz kompanije su naveli su da su ti incidenti prouzrokovali minimalnu štetu, ali su upozorili da bi slično ponašanje moglo imati ozbiljnije posledice kako se sposobnosti veštačke inteligencije budu unapređivale.