Upotrebu AI treba usporiti, mora da ostane pod ljudskom kontrolom, ističu stručnjaci

Upotrebu veštačke inteligencije u stvarnom svetu, proizvodima i kritičnoj infrastrukturi treba usporiti i ograničiti, a njena primena mora ostati pod ljudskom kontrolom, izjavio je Ljubiša Bojić iz Instituta za veštačku inteligenciju.

Iako veštačku inteligenciju delimično kontrolišu kompanije, nemoguće je da je one u potpunosti kontrolišu zato što nije izvodljivo da se donese milion nekih odluka u svakoj sekundi ili minuti, zbog čega je neophodno dodatno regulisati ovu oblast, rekao je Bojić za Tanjug.

Incidenti pokazuju rizike razvoja AI

Komentarišući to što je OpenAI zabeležio da je njegov istraživački model tokom treninga pronašao propust u mrežnim ograničenjima i preko sistema za prevođenje internet adresa uspeo da komunicira sa spoljnim četbotom, što je Sistem za nadzor označio kao najviši nivo upozorenja i eksperiment je ugašen, Bojić je istakao da treba imati na umu da te kompanije izlaze na berzu i da njima odgovara da se dešavaju takvi incidenti.

Kako je naveo, društvu kao i naučnoj zajednici koja želi da reguliše ovu oblast, takođe odgovaraju ovakvi incidenti kako bi mogli da ukažu na sve propuste i kako bi se napokon postigao dogovor između Kine, Amerike i EU o regulaciji veštačke inteligencije, jer je krajnji momenat da se nešto tako uradi.

Na pitanje da li može ljudski nadzor da ostane zaštita ako mašina postane neuporedivo brža od čoveka koji je nadzire, Bojić je rekao da postoje razne tehnike nadzora koje, dok se ne savladaju da jedan algoritam kontroliše drugi ili da više manjih algoritama intervenišu na velikom algoritmu, onda to ne treba puštati u upotrebu.

"Sada je osetljivi trenutak kada od četbota dobijamo agenta, što znači da AI prelazi u stvarni svet i da kroz stvarne proizvode, usluge, kritične infrastrukture, određene procese deluje na svet. Taj proces treba usporiti i ne dozvoliti sve upotrebe veštačke inteligencije kako ne bismo radili primene koje su nebezbedne", poručio je. 

Odgovarajući na pitanje šta sve ovo znači za običnog čoveka koji koristi veštačku inteligenciju da napiše mejl ili pronađe recept, Bojić je rekao da običan čovek mora da ostane kompetentan jer bez korišćenja veštačke inteligencije neće moći da brzo uradi određene stvari u odnosu na njegove kolege ili konkurenciju. Prema njegovim rečima, treba da koristi veštačku inteligenciju pažljivo, da ne daje neke poverljive informacije i podatke, što ne znači da ona ne treba da bude dodatno regulisana.

SAD i Kina o kontroli veštačke inteligencije

Osvrćući se na to što je američki predsednik Donald Tramp u UN odbacio pozive na novu snažnu regulaciju i rekao da neće usporavati razvoj tehnologije za koju smatra da će biti važnija od industrijske revolucije, dok je s druge strane kineski predsednik Si Đinping naglasio princip da AI treba da ostane pod ljudskom kontrolom, Bojić je ocenio da Amerika treba da promeni svoje mišljenje po ovom pitanju zato što je ispravno da veštačka inteligencija ostane pod ljudskom kontrolom.