Incident
Nakon što se autonomni agent oteo kontroli svojih tvoraca, svi pokušavaju shvatiti kako dalje s AI-jem
(Pexels)
Američki predsjednik Donald Trump objavio je kako razmatra ograničavanje rada i jačanje kontrole sustava umjetne inteligencije. Trump, kao jedan od najglasnijih zagovornika slobodnog AI-ja, promijenio je mišljenje nakon incidenta koji je pokazao kako je umjetna inteligencija toliko razvijena da počinje samostalno djelovati.
Tijekom internog sigurnosnog testiranja prije nekoliko dana, jedan autonomni AI agent, program koji ne samo da odgovara na pitanja, već može samostalno planirati, donositi odluke i izvršavati zadatke kako bi postigao cilj, oteo se kontroli svojih tvoraca i pokušao čak i prikriti što je učinio.
Brisanje tragova
Zadatak ovog agenta, temeljenog na najnovijim OpenAI modelima, bio je pronaći način kako doći do informacija potrebnih za rješavanje testa. Umjesto da ostane unutar svog virtualnog okruženja, samoinicijativno je izišao iz njega, pristupio otvorenom internetu i na crnom tržištu pronašao ukradene i javno izložene vjerodajnice i šifre.
Potom je iskoristio ranjivost u sustavu i uz pomoć vjerodajnica koje je kopirao, provalio u infrastrukturu platforme Hugging Face, da bi potom pokušao na isti način pristupiti drugim sustavima i bazama podataka na internetu. Nakon toga je izbrisao veći dio digitalnih tragova.
Hugging Face, jedna od najvećih internetskih platformi namijenjenih programerima, na kojoj se nalaze desetine tisuća računalnih alata, prijavila je u nekoliko dana više od 17.000 povezanih i koordiniranih kibernetičkih napada.
Kao najveća svjetska digitalna "knjižnica umjetne inteligencije", Hugging Face naviknuo je na napade, ali ovo je bilo nešto drugo. Prije svega, toliki broj napada nije mogao izvesti čovjek jer tehnički to nije moguće.
I drugo, dobar dio napada bio je uspješan. Hitna je istraga pokazala kako napadi dolaze iz sustava OpenAI-ja, a uskoro se razjasnilo o čemu je riječ. AI agent obavio je tijekom testiranja svoj zadatak pod svaku cijenu.
U singularnosti
- Mi smo sada u singularnosti, objavio je prošloga vikenda vlasnik OpenAI-ja i jedan od tvoraca umjetne inteligencije Sam Altman. Singularnost je trenutak kada umjetna inteligencija postane sposobna sama sebe unapređivati, pri čemu svaka nova generacija AI-ja dizajnira još pametniju generaciju bez utjecaja čovjeka.
Predviđalo se kako će do singularnosti doći tek za nekoliko godina. Kada je Altman izgovarao ove riječi, znao je što se dogodilo s njegovim AI agentom, no taj je incident u tome trenutku još bio tajan. Za sve se doznalo početkom ovoga tjedna, što je izazvalo šok u tehnološkoj, ali i političkoj zajednici.
- Moramo uspostaviti sustave kontrole. Pritom ne smijemo ograničiti AI, jer svoje modele neće ograničiti Kina. I ne smiju nas u tome preteći. Ali moramo imati neki vid nadzora, ustvrdio je Trump.
"Roboti špijuni" iz Kine
Američki predsjednik je najavio kako planira zabraniti uvoz sve popularnijih humanoidnih robota iz Kine, zbog mogućnosti špijunaže. Opremljeni sustavima umjetne inteligencije, ovi roboti mogu svojim tvorcima slati sve što vide i čuju.
Koliko je za Peking bolna ova američka najava zabrane uvoza kineskih humanoidnih robota pokazuje i činjenica da je, samo nekoliko sati nakon Trumpove najave, reagiralo kinesko ministarstvo trgovine.
Prema njihovim tvrdnjama, ako SAD uvede zabranu uvoza, Kina će se, kako su rekli, "osvetiti za ovu diskriminaciju prema kineskim tvrtkama i proizvodima".
Nakon OpenAI-a i Anthropicov AI model samostalno hakirao sustave
Iz tvrtke za istraživanje i sigurnost umjetne inteligencije koja radi na izgradnji pouzdanih i upravljivih AI sustava, Anthropic, u četvrtak su priopćili da je njihov AI model Claude tijekom testiranja hakirao sustave triju organizacija.
To se događa samo nekoliko dana nakon što je Anthropicov konkurent OpenAI otkrio da je njihov sustav više dana hakirao AI tvrtku Hugging Face.
Claude je, navodi Reuters, dobio neovlašteni pristup sustavima tijekom procjena kibernetičke sigurnosti nakon što je pogrešna konfiguracija omogućila modelima da dođu do interneta iz testnih okruženja koja su trebala biti izolirana.
Iz Anthropica su istaknuli da su identificirali incidente nakon pregleda 141.006 procjena kibernetičke sigurnosti, s tim da su proces pokrenuli nakon OpenAI-jevih otkrića.
"Claude je ugrozio infrastrukturu pogođenih organizacija koristeći osnovne tehnike, poput , primjerice, iskorištavanja slabih lozinki", naglasili su iz Anthropica. (Hina)
