Da li AI može da stvori novu pandemiju? Naučnici strahuju od zloupotrebe bioloških podataka

Savremeni modeli veštačke inteligencije u biologiji obučavaju se na ogromnim količinama podataka: Genetskim sekvencama, informacijama o mutacijama, osobinama virusa, načinima prenosa, otpornosti na vakcine... Upravo ti podaci omogućili su veliki napredak u istraživanjima i doveli do bržeg razvoja lekova i boljeg razumevanja zaraznih bolesti.

Međutim, isti ti alati, upozoravaju istraživači, mogli bi da budu iskorišćeni u pogrešne svrhe.

U otvorenom pismu koje su potpisali naučnici sa univerziteta kao što su Džons Hopkins, Oksford, Fordham i Stanford, navodi se da mali, ali ključni podskup informacija predstavlja rizik po biološku bezbednost ako postane neograničeno dostupan. "Rizici su visoki, jer modeli veštačke inteligencije mogu pomoći u stvaranju ozbiljnih bioloških pretnji", navodi se u pismu.

AI modeli koji se već koriste u biologiji sposobni su da predviđaju mutacije virusa, identifikuju obrasce u genetskom kodu i čak generišu varijante sa povećanom prenosivošću. Istraživači ovu sposobnost opisuju kao "zabrinjavajuću", jer bi mogla da ubrza i pojednostavi stvaranje patogena koji bi izazvali nove pandemije kod ljudi, životinja ili biljaka.

Naučnici ne dovode u pitanje princip otvorene nauke - naprotiv, ističu da većina bioloških podataka treba da ostane javno dostupna. Međutim, kada je reč o podacima koji se odnose na opasne patogene, potrebne su jače bezbednosne provere i jasna pravila. Trenutno ne postoji univerzalni okvir koji bi regulisao pristup ovakvim skupovima podataka, ali neki timovi već dobrovoljno isključuju najosetljivije informacije iz svojih modela.

Ipak, naučnici upozoravaju da dobrovoljne bezbednosne mere nekolicine naučnih timova nisu dovoljne. Zato predlažu jasniji sistem kategorizacije rizičnih podataka, a to je petostepeni nivo biološke bezbednosti (BDL).

Najniži nivo (BDL-0) odnosi se na uobičajene biološke podatke koji mogu biti slobodno dostupni, dok BDL-1 i BDL-2 obuhvataju osnovne virusne elemente i podatke o osobinama virusa kod životinja, uz kontrolisan i praćen pristup. Viši nivoi, BDL-3 i BDL-4, odnose se na karakteristike ljudskih virusa i modifikovane, potencijalno opasnije varijante, za koje bi važila najstroža bezbednosna ograničenja, prenosi "Juronjuz".

Pored kategorizacije, istraživači predlažu i konkretne tehničke mere: Ugrađene vodene žigove u skupove podataka radi praćenja curenja, sisteme za evidentiranje pristupa i izmena, kao i napredne mehanizme za proveru identiteta i praćenje zloupotrebe.

Cilj pisma nije da podatke treba zaključati, već da treba uvesti pametnu kontrolu. Kako modeli veštačke inteligencije postaju moćniji i dostupniji širom sveta, pitanje više nije da li postoji rizik, već kako ga držati pod kontrolom, a da se pritom ne uspori legitimno naučno istraživanje.