Hoćemo li moći kontrolirati umjetnu superinteligenciju? Stručnjaci objasnili zašto to neće biti moguće!

O mogućnosti da umjetna inteligencija (UI) svrgne čovječanstvo govori se već desetljećima, a u siječnju 2021. znanstvenici su iznijeli svoju presudu hoćemo li moći kontrolirati računalnu superinteligenciju visoke razine. Odgovor? Gotovo sigurno ne.

Kvaka je u tome što bi kontrola superinteligencije koja je daleko izvan ljudskog shvaćanja zahtijevala simulaciju te superinteligencije koju možemo analizirati. Ali ako to ne možemo shvatiti, nemoguće je stvoriti takvu simulaciju.

Pravila poput “ne nanositi štetu ljudima” ne mogu se postaviti ako ne razumijemo vrste scenarija koje će UI smisliti, smatraju autori. Jednom kada računalni sustav radi na razini iznad opsega naših programera, više ne možemo postavljati ograničenja.

“Superinteligencija predstavlja bitno drukčiji problem od tzv. robotske etike. To je zato što je ona višestruka i stoga potencijalno sposobna mobilizirati različite resurse kako bi se postigli ciljevi koji su ljudima potencijalno neshvatljivi, a kamoli da ih mogu kontrolirati”, navode istraživači.

Dio obrazloženja tima potječe od problema zaustavljanja koji je 1936. iznio britanski matematičar Alan Turing (1912.-1954.). Problem se usredotočuje na saznanje hoće li računalni program doći do zaključka i odgovora (pa se zaustavlja) ili će se jednostavno vrtjeti u vječnoj petlji pokušavajući ga pronaći.

Bilo koji program napisan da spriječi UI da nanosi štetu ljudima i uništi svijet, može doći do zaključka (i zaustaviti se) ili ne. Matematički je nemoguće biti apsolutno sigurnim na bilo koji način, što znači da se UI ne može obuzdati.

Alternativa poučavanju UI-a nekoj etici i reći joj da ne uništava svijet jest ograničiti sposobnosti superinteligencije, primjerice odsjeći ju od dijelova interneta ili određenih mreža.

No studija odbacuje i tu ideju, sugerirajući da bi se time ograničio doseg umjetne inteligencije. “Ako ju nećemo rabiti za rješavanje problema izvan dosega ljudi, zašto je onda uopće stvarati?”

“Superinteligentni stroj koji kontrolira svijet zvuči kao znanstvena fantastika. Ali već postoje strojevi koji samostalno obavljaju određene važne zadatke, a da programeri u potpunosti ne razumiju kako su to naučili. Stoga se postavlja pitanje bi li to u nekom trenutku moglo postati nekontrolirano i opasno za čovječanstvo”, zaključuje informatičar Manuel Cebrian s Instituta Max-Planck (Berlin, Njemačka).