Sigurno i nemamo neku predstavu koliko se brzo razvija veštačka inteligencija. Koristi se mnogo sredstava i resursa da bi je kompanije usavršile, napravile boljom. Trka za novim otkrićima je brza i u tom razvoju je zapostavljeno mnogo bitnih faktora. Jedan od njih jeste odgovornost AI kompanija.
O tome će sledeće nedelje renomirani naučnici raspravljati na Samitu o bezbednosti u Blečli Parku koji će biti fokusiran na egzistencijalne pretnje koje predstavlja veštačka inteligencija. Jedan od 23 autora predloga stručnjaka kaže da je "potpuno nesmotreno i neodgovorno" da se razvijaju još moćniji sistemi veštačke inteligencije, pre nego što uopšte možemo da razumemo kako da ih učinimo bezbednim za korišćenje.
Više propisa o kioscima u kojima se prave sendviči nego o AI kompanijama
Moćni sistemi veštačke inteligencije ugrožavaju društvenu stabilnost, a kompanije koje razvijaju ovakve sisteme moraju da budu odgovorne za štetu koju prouzrokuju njihovi proizvodi, ističu stručnjaci.
"Vreme je da se ozbiljno pozabavimo naprednim sistemima veštačke inteligencije. Ovo nisu igračke. Povećanje njihovih sposobnosti pre nego što shvatimo kako da ih učinimo bezbednim je krajnje nepromišljeno", rekao je Stjuart Rasel, profesor računarstva i dodao:
"Postoji više propisa o kioscima u kojima se prave sendviči, nego o kompanijama koje u fokus svog rada stavljaju veštačku inteligenciju".
Naučnici i stručnjaci su upozorili da nemarno razvijeni sistemi veštačke inteligencije prete da "pojačaju društvenu nepravdu, potkopaju naše profesije, naruše društvenu stabilnost, omoguće kriminalne ili terorističke aktivnosti velikih razmera i oslabe zajedničko razumevanje stvarnosti koja je temelj društva".
Upozorili su i da trenutni sistemi veštačke inteligencije pokazuju zabrinjavajuće znake koje ukazuju na pojavu autonomnih sistema koji mogu da planiraju, sprovode ciljeve i samostalno se ponašaju.
"Ako izgradimo visoko naprednu autonomnu veštačku inteligenciju, rizikujemo da stvorimo sisteme koji imaju nepoželjne ciljeve i možda nećemo moći da držimo stvari pod kontrolom", kažu stručnjaci.
Najavljeno je da će se raspravljati o dokumentu koji poziva vlasti zemalja širom sveta da usvoje sledeće zakone:
- Trećinu državnih sredstava za razvoj veštačke inteligencije i trećina resursa koje kompanije ulažu u istraživanje i njihov razvoj moraju da budu usmereni za bezbedno i etičko korišćenje sistema
- Davanje pristupa nezavisnim revizorima AI laboratorijama
- Uspostavljanje sistema licenciranja za izgradnju najsavremenijih modela
- Kompanije koje razvijaju veštačku inteligenciju moraju da usvoje posebne mere bezbednosti ako primete da su njihovi modeli veštačke inteligencije opasni
- Tehnološke kompanije moraju da budu odgovorne za štetu koju njihovi sistemi naprave
Ovaj predlog potisuju stručnjaci iz domena veštačke inteligencije, a među njima su i Džefri Hinton i Džošua Benđiju, koji se smataraju "rodonačelnicima" veštačke inteligencije. Svi oni traže da se izvrši moratorijum na sprovođenje giganskih eksperimenata sa veštačkom inteligencijom, piše Gardijan.