Budućnost ratovanja ili ‘suvišni ljudi’!

Autor: dr. sc. Jadranka Polović/Geopolitika.News

Elon Reeve Musk, američki inženjer i osnivač korporacije Space X, u odgovoru ruskom predsjedniku iskazuje zabrinutost, kako će „natjecanje za superiornost u sferi umjetne inteligencije na nacionalnoj razini najvjerojatnije biti uzrokom izbijanja trećeg svjetskog rata“

Razvoj umjetne inteligencije postaje strateško područje ulaganja vodećih zemalja svijeta – SAD-a, Rusije i Kine, a time i otvoreni prostor nadmetanja ovih sila. Obraćajući se studentima Sveučilišta u Jaroslavlju, ruski predsjednik Vladimir Putin izjavio je: „Tko postane lider na  IT tržištu, vladat će svijetom“, dodajući, kako monopol na ovom području stvara iznimno neželjenu situaciju. Naime, Putin smatra kako tehnološka nadmoć, koja oblikuje novu eru ratovanja, postaje temelj globalne političke moći. Naglasivši važnost razvoja ovog područja moderne tehnologije, ruski je predsjednik izrazio spremnost da Rusija svoja saznanja i dostignuća podijeli sa svijetom.

Nije dugo trebalo čekati na odgovor sa Zapada. Elon Reeve Musk, američki inženjer, poduzetnik, vizionar, osnivač korporacije Space X, u odgovoru ruskom predsjedniku, iskazuje svoju zabrinutost jer će, kako navodi, „natjecanje za superiornost u sferi umjetne inteligencije na nacionalnoj razini najvjerojatnije biti uzrokom izbijanja trećeg svjetskog rata“. U otvorenom pismu upućenom UN-u, koje potpisuje 116 vodećih ljudi u području umjetne inteligencije, upozorava se na „treću revoluciju“ u ratovanju, u kojoj je autonomna tehnologija zapravo smrtonosna Pandorina kutija. Stručnjaci pozivaju Ujedinjene narode da zabrane daljnja znanstvena istraživanja i konstruiranje smrtnosnih robota – ubojica koji mogu postati zastrašujuće oružje terora protiv civilnog stanovništva. Takva tehnologija, navode, trebala bi biti na popisu oružja zabranjenog UN-ovom Konvencijom o kontroli konvencionalnog naoružanja (CCW), jer je „moralno sasvim pogrešna“. Sličan apel, koji je potpisalo više od tisuću stručnjaka, znanstvenika i istraživača, među njima britanski fizičar Stephen Hawking, suosnivač Applea Steve Wozniak i Elon Musk, upućeno je javnosti i 2015., piše Geopolitika.News.

Naime, tehnološka revolucija očito je nezaustavljiva, danas roboti i računala dostižu i uskoro bi mogli u većini poslovnih zadataka nadmašiti ljude. Razvoj umjetne inteligencije svakako će u narednim desetljećima presudno oblikovati ne samo tržište rada, već i budućnost ratovanja. Računala još uvjek ovise o ljudima kao svjesnim bićima, ljudska svijest uz visoku inteligenciju predstavlja ekskluzivnu funkciju čovjeka kao humanog bića, maksimalni doseg čovječnosti. Organska je evolucija milijunima godina sigurno „jedrila“ putem svijesti. Međutim, zahvaljujući ubrzanom tehnološkom napretku, evolucija neorganskih računala, „otetih“ od kontrole ljudi, mogla bi zaobići te utabane staze i zacrtati mnogo brži put prema superinteligenciji. Naime, čovječanstvo je na pragu goleme revolucije u znanosti koja razvija nove tipove ne-svjesne ili umjetne inteligencije, koji će snažno utjecati na tržište rada i ratovanja.

Kada je riječ o budućnosti ratovanja, stručnjaci upozoravaju kako je umjetna inteligencija dosegla točku gdje je razvoj autonomnog oružja – dronova, bespilotnih tenkova ili strojnica, moguć u roku od nekoliko godina. „Roboti ubojice“ mogli bi izabrati metu i gađati je bez ljudske intervencije. Holivudski filmovi poput Terminatora, Transformersa, Robocopa ili Ratova zvijezda već su nam pokazali kako bi mogla izgledati bespoštedna borba kiborga. Elon Musk kontinuirano upozorava na potrebu regulacije umjetne inteligencije, čiji je destruktivni potencijal najveća prijetnja ljudskoj egzistenciji. Štoviše, pripada onima koji zahtijevaju da se sva istraživanja u ovom području zaustave. Možemo se podsjetiti kako je i Facebook nedavno prekinuo eksperiment kada su dva algoritma počela međusobno komunicirati na samo njima razumljivom jeziku u koji istraživači nisu bili uključeni, niti su ga razumjeli.

Međutim, reakcije „praktičara“ su sasvim suprotne, neopterećene etičkim i moralnim dilemama. O „čudovištima koja će pokoriti svijet“ tek ćemo čuti! Umirovljeni britanski general, sir Richard Barrons, uputio je otvoreno pismo grupi eksperata, u kojem navodi kako su roboti – ubojice praktično neizbježni i da će u budućnosti sigurno biti korišteni u ratovima umjesto žive sile. NATO neće odustati od razvoja ovog oružja, „zašto u ratni sukob slati golobradog mladića, ako se u vaše ime može boriti stroj, upitao se general. Profit je i ovdje imperativ života – roboti ubojice znatno su jeftiniji od vojnika koji zahtijevaju sveukupnu logistiku i na koje se sada troši najveći dio vojnih proračuna bilo država, bilo korporacija.

Razvoj umjetne inteligencije očito je nezaustavljiv. Samsung je razvio SGR-A1, autonomno oružje, koji samostalno ispaljuje metke, prepoznaje glas, prati, a sporno je  koristi li se već uz južnokorejsku granicu na demilitariziranoj zoni. Rusi su predstavili autonomnu bespilotnu letjelicu helikopterskog tipa „Voron 777-1“, kao i bespilotno vozilo „Uran 9“. Rusija posjeduje „strah i trepet“ autonomne podmornice „ACTUV“ bez posade, koju pokreće umjetna inteligencija. Nedavno je i koncern „Kalašnjikov“ proizveo potpuno automatizirani modul za ratovanje „REKS-1“, koji je u stanju oboriti bespilotne letjelice. Sjedinjene Države, naravno, već dugo razvijaju ovaj tip oružja: autonomne borbene letjelice, koje samostalno obavljaju sve zadatke u misijama, potencijalno su znatno opasnije od klasičnih borbenih zrakoplova s posadom. Autonomni ratni brod „Sea Hunter“, „AEGIS“ rakete, samo su neka od pametnih oružja koja zahvaljujući umjetnoj inteligenciji posjeduju autonomiju u donošenju odluka. Svakako privlače pozornost i zastrašujući dronovi „PD-100“, novi tip letećih robota, teški svega 18 grama, koji služe za osobno izviđanje. „Crni stršljenovi otvaraju potpuno novo poglavlje u području prisluškivanja, nadgledanja, izviđanja. Sjedinjene Države troše milijarde dolara za razvoj autonomnog ili poluautonomnog oružja, koje je do sada postojalo samo u filmovima ili znanstvenoj fantastici.

Ove „igračke“ predstavljaju stvarni izazov za znanstvenike, ali otvaraju i brojna etička pitanja s obzirom na mogućnost njihove vojne ili civilne uporabe. Brojne organizacije za zaštitu ljudskih prava u nekoliko su navrata zahtijevale zabranu proizvodnje, razvoja i korištenja bespilotnih letjelica zbog neetičnog načina ratovanja i velikog broja civilnih žrtava.

Bloomberg Business Week, nedavno je izvjestio o projektu „Baby X“, Marka Sagara, novozelandskog programera, koji je, iskoristivši fotografije svoje osamnaestomjesečne kćeri, napravio 3D model koji je u stanju reagirati na pitanja i zahtijeve okoline, izgovarati riječi apple ili ball, čak i svirati na virtualnom pijanu. „Baby X“ ponaša se tvrdoglavo kao i svako dijete – samoincijativno prestaje svirati kad joj ova aktivnost dasadi. Sagar, koji je svoju karijeru započeo modeliranjem dijelova tijela u medicinske svrhe, a zatim radio na velikim projektima filmske industrije (King-kong, Avatar) opsjednut je idejom da ljudske osobine doda umjetnoj inteligenciji. Tako svojoj „Baby X“ može dodavati doze virtualnog serotonima, oksitocina ili drugih „kemijskih“ spojeva koji pospješuju rad virtualnih neuroreceptora. On line se može pratiti kako virtualni mozak „Baby X“ ispušta virtualni dopamin kojim osvjetljuje određene djelove mozga i tako stimulira pojavu osmjeha na licu virtualne djevojčice. Projekt se komercijalizira, a glumica Cate Blanchett posudila je svoj glas slatkoj „Baby X“.

Znanstvenici, stručnjaci, ali i aktivisti (političare to još ne brine) vrlo su zabrinuti posljedicama utrke u razvoju robotike. Pored izravnih prijetnji po čovječanstvo, umjetna inteligencija otvara i neka druga pitanja. Naime, uslijed brojnih tehnoloških inovacija koje mijenjaju povijest ratovanja, većina bi ljudi mogla izgubiti svoju vojnu i gospodarsku vrijednost. Masovno novačenje iz dvaju svjetskih ratova stvar je prošlosti, moderno ratovanje uglavnom se oslanja na „plaćenike“, privatizirane agencije i suvremenu vojnu tehnologiju, dok će se vojna sila u 21.st. sve više oslanjati na umjetnu inteligenciju. Bespilotne letjelice i drugo autonomno oružje postupno zamjenjuju masovne vojske iz dvadesetog stoljeća, a generali sve češće važne strateške odluke prepuštaju algoritmima.

Vrlo zanimljivu tezu iznosi dr. Yuval Noah Harari sa Hebrejskog sveučilišta u Jeruzalemu, čija je knjiga „Homo Deus: kratka povijest sutrašnjice tehnološkog razvoja (Homo Deus: A Brief History of Tomorrow), objavljena i u Hrvatskoj.  Naime, Harari smatra kako će ljudi pod utjecajem tehnološkog napretka zapravo postati „gospodarski i vojno beskorisni“. Na bojnim poljima modernih industrijskih ratova i na masovnim proizvodnim linijama modernih industrijskih ekonomija tijekom 20. st. svaki je čovjek bio važan. Svaki par ruku koji je mogao držati pušku ili povlačiti polugu stroja bio je i te kako vrijedan, navodi Harari i dodaje, da bi u 21. st. mogli svjedočiti stvaranju masovne nove neradničke klase, tj. postojanju ljudi kojima je uskraćena svaka gospodarska, politička ili čak umjetnička vrijednost, koji ničime ne pridonose prosperitetu i moći društva. Ta „beskorisna klasa“ neće biti samo nezaposlena – bit će je nemoguće zaposliti, zaključuje autor.

Postavlja se pitanje – što je važnije: inteligencija ili svijest? Dok su inteligencija i svijest išle ruku pod ruku, rasprava o njihovoj relativnoj vrijednosti bila je tek zabava za filozofe. Ali u 21.st. ona postaje prvorazredno političko i gospodarsko pitanje, a za vojske i korporacije odgovor je jednostavan – inteligencija je obvezna, ali svijest je opcijska. Naime, kako navodi Harari – vojske i korporacije ne mogu funkcionirati bez inteligentnih čimbenika, ali im svijest i subjektivna iskustva postaju sve manje potrebni.

Složit ćemo se, najvažnije pitanje globalne ekonomije u 21.st. je „što učiniti sa suvišnim ljudima“, ovog puta iz privatizirane vojne industrije. Hoće li zbog tehnološkog razvoja ljudi postati gospodarski (i vojno) beskorisni? I konačno – što će svjesni ljudi raditi kad uskoro budemo imali ne-svjesne algoritme koji gotovo sve mogu obaviti bolje od nas.

Izvor: Geopolitika.News

Autor: dr. sc. Jadranka Polović/Geopolitika.News