Najnovije tehnike ratovanja zapanjile su svijet. Iako su se mnogi stručnjaci zaprisezali da je korištenje dronova i vojnika robota posve usmjereno uništavanju neprijatelja, najnovije otkriće The New York Timesa o tome kako je samo dronovima proteklih godina u Iraku, Siriji i Afganistanu pobijeno najmanje 1.300 civila pokazuje kako tehnologija, svakako, savršeno ubija, ali krive mete.

Političari su temu prepoznali nedavno – prošlog tjedna je u Ženevi započela rasprava o ograničenjima upotrebe autonomnih oružanih sustava - robota ubojica. Naime, deseci zemalja žele zabranu oružja koje ne kontroliraju ljudi, nego sami biraju i napadaju mete pomoću umjetne inteligencije. Zemlje iz skupine nesvrstanih koje predvodi Venezuela traže u ime 120 država da se takva oružja zabrane, čemu se protive proizvođači tih oružja – SAD, Izrael i Indija.

Računalna procjena

O kakvim se oružjima, zapravo, radi i kako se roboti i umjetna inteligencija koriste u vojne svrhe potražili smo mišljenje kod domaćih stručnjaka iako Hrvatska vojska, koliko je poznato, ima samo dronove za izviđanje smještene na vojnom uzletištu u Puli.

Profesor dr. Bojan Jerbić sa zagrebačkog Fakulteta strojarstva i brodogradnje objašnjava: „Posljednja dva desetljeća dominira ratovanje na daljinu, što je, najjednostavnije rečeno, strategija suprotstavljanja prijetnjama bez raspoređivanja velikih vojnih snaga".

- Napredno oružje potpomognuto umjetnom inteligencijom (UI) postoji već dvadesetak godina. Za sada ljudi ipak imaju djelomičnu kontrolu nad UI oružjem. Projektili poput Patriota ili Tomahawka obično uključuju kompjutersko uparivanje radarskih, GPS informacija i računalnog vida s bazom podataka o ciljevima - avionima, zgradama, tenkovima, itd. Primjenom metoda UI nastoje upravljati svojim kretanjem i prepoznati objekt od interesa te predložiti djelovanje. U konačnici ljudski operater je dužan odlučiti o tome hoće li oružje djelovati protiv računalom identificiranog cilja. Međutim, ljudi su skloni vjerovati strojevima. Često pod pritiskom ili stresom briše se granica između čovjeka i računala te uvijek postoji opasnost da se čovjek nekritički prikloni računalnoj procjeni, kaže dr. Jerbić.

Sven Lončarić, voditelj Centra za umjetnu inteligenciju na zagrebačkom Fakultetu elektronike i računarstva, kaže da nije stručnjak za vojnu tehniku, ali objašnjava kako se umjetna inteligencija može koristiti i u vojne svrhe.

- Razvoj računalnih tehnologija omogućio je brzo izvršavanje složenih algoritama strojnog učenja koji su temelj umjetne inteligencije koja danas nalazi svoje primjene u brojnim područjima ljudske djelatnosti uključujući mobilne komunikacijske uređaje, financijski i poslovni sektor, društvene mreže, zdravstvo, poljoprivredu i autonomna vozila. Za očekivati je da će osim civilnih primjena umjetna inteligencija naći i vojne primjene, kao što se desilo i sa svim drugim postignućima znanosti i razvoja tehnologije. Sasvim je sigurno da velike svjetske vojne sile danas ulažu značajna sredstva u istraživanja i razvoj vojnih primjena umjetne inteligencije, veli Lončarić.

On dodaje da je upotreba umjetne inteligencije potaknula brojna etička pitanja kao i potrebu za razvoj odgovarajuće pravne regulative.

- Mnoge zemlje u svijetu razvijaju vlastite preporuke o etičkim primjenama umjetne inteligencije te pravnu regulativu za razvoj i primjenu sustava umjetne inteligencije. Pri tome je prepoznata nužnost kompromisa između potrebe da se omogući prostor za inovacije u gospodarstvu za poduzeća koja se bave razvojem takvih sustava i potrebe da se osigura etičko korištenje umjetne inteligencije, pojašnjava Lončarić.

Ljudsko-strojni timovi

Prije nekoliko mjeseci britanska vojska objavila je da će integrirati robotiku i autonomne sustave kako bi opremila vojnike konkurentskom prednosti u digitalnom svijetu koji se brzo mijenja. Na međunarodnoj izložbi Defense and Security Equipment International u Excelu, najvećem svjetskom okupljanju obrambene i sigurnosne zajednice, štand britanske vojske prikazuje kako se prilagođava i odgovara na promjenjivi karakter globalnog sukoba. Štand prikazuje kako će vojska integrirati robotiku i autonomne sustave (RAS) kao dio svoje vizije Future Soldier.

Integracija RAS-a zahtijevat će stvaranje 'ljudsko-strojnih timova' povećanjem trenutnih sposobnosti mrežom novih senzora i efektora. Primjeri načina na koji bi vojska mogla rasporediti RAS u budućnosti uključuju autonomne sustave za pružanje svjesnosti situacije ili sposobnosti protudronova; isporuka zaliha u udaljene regije; i korištenje umjetne inteligencije za poboljšanje vojnog procesa donošenja odluka.

Zapravo, RAS će poduzeti neke od opasnih, prljavih i dosadnih zadataka koje su prije obavljali isključivo vojnici. Tehnologiju robotike i autonomne sustave trenutno isprobava 2. bataljun Yorkshire pukovnije, nova bojna poboljšanih lakih snaga vojske. Bataljun sa sjedištem na Cipru krči put budućoj vojsci sa 120 milijuna funti vrijednim novim kompletom i opremom, koji će promijeniti način na koji će pješaštvo djelovati u borbi.

- Za razliku od platformi s daljinskim upravljanjem kao što su dronovi, sustavi oružja koji su vođeni autonomnom umjetnom inteligencijom samostalno upravljaju većinom svojih kritičnih funkcija. Autonomno oružje obrađuje podatke s ugrađenih senzora, koristi algoritme za globalnu i lokalnu navigaciju te traženje, identifikaciju, praćenje i napad na ciljeve bez ljudske intervencije. Osim što je nužno istaknuti da ovakva nadolazeća tehnologija preuzima donošenje odluka o životu i smrti bez ikakve ljudske intervencije, valja naglasiti da ljudska kontrola općenito u srazu s umjetnom inteligencijom sve više postaje ugrožena, objašnjava dr. Jerbić s FSB-a.

Etičke i pravne posljedice

On ističe i mogućnost pogrešaka.

- Pristranost autonomnih inteligentnih sustava u pravilu izaziva ozbiljna odstupanja od očekivanja. Ovakav karakter umjetne inteligencije nameće intrigantan skup važnih pitanja u pogledu njene nenadzirane primjene. Posebno kada je u pitanju primjena u sustavima oružja i u ratovanju, što dovodi do vrlo problematičnih etičkih i pravnih posljedica.

Ljudska inteligencija uključuje brojne kompleksne aspekte poput emocija, kulture i morala. Umjetna inteligencija nema empatiju, ali niti kulturu. Stoga umjetna inteligencija nije sposobna donositi odluke sa socijalnom implikacijom. Upravo ta činjenica naglašava neizbježnu asimetriju ratovanja pomoću umjetne inteligencije stvarajući fizičku, emocionalnu i kognitivnu udaljenost. Fizička i emocionalna udaljenost u potpunosti remeti moralnu simetriju pogibeljnog rizika u borbi, a time i svojevrsni moral ratovanja, ako isti uopće možemo prihvatiti, ističe dr. Jerbić.

Domaći stručnjaci ističu i nisku cijenu takvih strojeva za ubijanje.

- Slijedeći problem je niska cijena i dostupnost ključnih komponenata visokih tehnologija, kao što su upravljački sklopovi, vizijski sustavi, dronovi i drugo. Sve je to moguće bez problema naručiti putem interneta. Potrebno je još samo znanje koje je najčešće slobodno dostupno na mrežnim serverima. Bespilotne letjelice su godinama bile ključni dio ratovanja, ali su njima upravljali ljudi. Sada, spajanjem lako dostupnog softvera za prepoznavanje slika i autopilota, autonomni dronovi mogu se jeftino masovno proizvoditi. Deseci malih bespilotnih letjelica, koje se ne razlikuju od kvadrokoptera koje koriste hobisti, mogu nanijeti ozbiljnu štetu vojnoj tehnici i ljudstvu izazivajući paniku i zbrku, kaže profesor Jerbić i dodaje: „Interesantan je primjer koji navodi američka Agencija za napredne istraživačke projekte (DARPA) koja je simulirala borbu pilota-umjetne intelgencije protiv iskusnog pilota borbenog aviona. U nizu simuliranih zračnih borbi umjetna inteligencija je pobijedila ljudskog pilota 5 prema 0 primjenjujući agresivne i precizne manevre koje ljudski pilot nije mogao nadmašiti. Ljudski pilot je izvijestio da je umjetna inteligencija koristila "samoubilačke" taktike tijekom borbe.“

Ipak, profesor Sven Lončarić s FER-a smatra da ćemo robote vojnike još malo „pričekati“.

- U futurističkim vizijama ljudske civilizacije postoje i razmišljanja o vremenu kad bi roboti i umjetna inteligencija mogli preuzeti izvršavanje raznih vojnih i borbenih aktivnosti i tako zamijenili čovjeka, no trenutni razvoj robotike i UI tehnologije još nije takav da bi se mogli realizirati takvi sustavi, kaže Lončarić.

Stoga je sada vrijeme da se donese odluka da se to onemogući.

- Na temelju svega iznesenog jasno je da se primjena umjetne inteligencije mora spriječiti u ratovanju protiv ljudi. Na isti način kao što je regulirana primjena nuklearne tehnologije potrebno je regulirati primjenu umjetne inteligencije u vojne svrhe. Ista ili veća opasnost može proizaći iz nekontrolirane primjene umjetne inteligencije. Potpuno je neprihvatljivo dozvoliti strojevima ubijanje ljudi, naglašava dr. Boris Jerbić.

Inače, studije ističu da je vrijednost globalnog tržišta proizvoda temeljenih na umjetnoj inteligenciji u 2020. godini bila 62 milijardi dolara. Za period od 2021.- 2028. procjenjuje se rast globalnog tržišta UI od 40 posto godišnje, što pokazuje važnost ovog područja za globalno društvo.

Povezane vijesti

• Pandemija covida-19 ubrzala robotizaciju radnih mjesta
• Izraeski AI roboti beru voće i sprečavanju njegovo propadanje
• Umjetna inteligencija: Rumunjska vlada zaposlila posebnog savjetnika