"Kum umjetne inteligencije" promijenio je procjene: AI bi mogao postati prijetnja ljudima već za tri godine

Umjetna inteligencija mogla bi postati prijetnja ljudskom opstanku već u iduće tri godine, upozorio je Geoffrey Hinton, dobitnik Nobelove nagrade i jedan od najuglednijih stručnjaka u tom području, poznat i pod nadimkom "kum umjetne inteligencije" zbog svojeg pionirskog rada na razvoju neuronskih mreža.

Hinton, koji je posljednjih godina sve oprezniji u procjenama mogućnosti umjetne inteligencije, o njezinim će opasnostima govoriti i na predavanju u organizaciji AI Safety Foundationa u Kanadi. Priznao je da je promijenio svoja ranija predviđanja nakon što je poslušao izlaganja Paula Christiana, osnivača istraživačkog centra Alignment Research Centre, koji smatra da bi umjetna inteligencija mogla ubiti ljude već za tri godine.

"Mislim da je za većinu ljudi u ovoj prostoriji najvjerojatniji razlog zbog kojeg će umrijeti nesreća povezana s umjetnom inteligencijom", rekao je Hinton na uvodnom predavanju ovog tjedna.

U drugom predavanju dodatno je pojasnio koliko su se njegove procjene promijenile. Dosad je, kaže, upozoravao da bi umjetna inteligencija mogla postati pametnija od ljudi u roku od deset godina, no nakon što je čuo Christianova izlaganja, počeo je razmišljati o znatno kraćem vremenskom okviru.

"Već neko vrijeme govorim da će ove stvari postati pametnije od nas, da se zbog toga doista trebamo zabrinuti i da bi se to moglo dogoditi u roku od deset godina. Dakle, ja sam taj koji plaši druge ljude.

Ali onda odem na Paulova predavanja i on kaže da bi se to moglo dogoditi već u sljedećih 18 mjeseci. To je zastrašujuće. O tome ću u petak razgovarati s nizom vladinih čelnika pa ćemo vidjeti kako će reagirati", rekao je Hinton.

Objašnjavajući zašto je zabrinut zbog ubrzanog razvoja umjetne inteligencije, istaknuo je da se već razvijaju sustavi koji će uskoro biti znatno inteligentniji od ljudi, dok istodobno još uvijek ne znamo kako osigurati da ostanu pod našom kontrolom.

"Središnji problem je u tome što su inteligencija i želja za onim što mi želimo dvije potpuno različite stvari", upozorio je.

Hinton, 78-godišnji znanstvenik koji neformalno savjetuje i britansku vladu o pitanjima umjetne inteligencije, i ranije je iznosio ozbiljna upozorenja o mogućim posljedicama razvoja te tehnologije. U jednom je navratu poručio da bi se ljudi trebali početi ljubazno odnositi prema inteligentnom softveru jer bi u suprotnom mogli loše završiti.

Na opasnosti ubrzanog razvoja umjetne inteligencije upozorio je i Christian, navodeći kao primjer nedavni incident iz srpnja, kada je jedan OpenAI-jev agent navodno „pobjegao" na internet i usmjerio se na softver platforme Hugging Face.

"Prošlog ljeta rekli biste da to zvuči kao nešto iz sulude znanstvene fantastike", rekao je Christian, upozoravajući da bi budući autonomni sustavi mogli početi doživljavati ljude kao još jednu prepreku koju trebaju ukloniti.

Povezane vijesti

• Nakon što se autonomni agent oteo kontroli svojih tvoraca, svi pokušavaju shvatiti kako dalje s AI-jem
• AI model pokušao prevariti stvarnu osobu i podmetnuti zlonamjerni kod: "Ovo je prvi ovakav slučaj"
• Trump odbacuje upozorenja o opasnostima AI-ja: "Neće se dogoditi stvari o kojima govore"