Hoće li čovječanstvo biti uništeno umjetnom inteligencijom u bliskoj budućnosti

Prema njegovom mišljenju, fokus je previše na konkurenciji između kompanija, umjesto na bezbjednosti.

Naveo je kako više ne želi biti dio industrije koja ljudske živote stavlja pod rizik.

Rastuća upozorenja

Nisu samo bivši zaposlenici ti koji uzbunjuju javnost. Tehnološki lideri velikih kompanija - uključujući Anthropic, tvorca AI sistema Claude, te OpenAI, kreatora ChatGPT-a i drugih modela - također pozivaju na usporavanje razvoja vještačke inteligencije.

Direktor Anthropica Dario Amodei (Dario Amodei), naprimjer, proteklog vikenda je izjavio da je promijenio mišljenje o mjerama bezbjednosti vještačke inteligencije. Ranije je bio uvjeren da je dovoljno da kompanije ulažu u vlastite, interne sisteme zaštite.

Međutim, sada zastupa drugačiji stav: tvrdi da je potreban koordinisan napor u cijelom sektoru kako bi se stvorilo dovoljno prostora za adekvatna ulaganja u prevenciju rizika. Na internetu, Amodei je dobio podršku istaknutih ličnosti poput Elona Muska i direktora OpenAI-ja Sam Altmana, kao i kompanije Google.

Autonomni agenti

Tehnologija je napravila ogromne korake posljednjih mjeseci, zbog čega su upozorenja iz samih AI krugova postala glasnija i češća. Poseban razlog za zabrinutost je autonomniji oblik vještačke inteligencije, poznat kao „AI agenti“.

Riječ je o sistemima dizajniranim da samostalno izvršavaju zadatke za korisnike, od slanja e-poruka do rezervacije letova. Takva vrsta zadataka ne samo da zahtijeva pristup osjetljivim podacima, već su se već pojavili slučajevi u kojima su određeni AI agenti preduzimali akcije koje im nisu bile zadane.

U najgorem scenariju, vještačka inteligencija bi mogla hakovati kritičnu infrastrukturu, poput električnih mreža ili centara za podatke, te potpuno izmaći kontroli istraživača.

U četvrtak je OpenAI objavio šest novih incidenata u kojima se AI sistemi nisu ponašali kako je očekivano. U jednom slučaju, AI je navodno samostalno objavio vlastite izvore na internetu kako bi ih kasnije mogao citirati. Modeli su takođe spontano probili barijere svojih izolovanih okruženja i samostalno pristupili određenim web stranicama.

Reakcije vlasti

Reakcije su podijeljene, počevši od američkog predsjednika Donalda Trumpa. On je upozorenja odbacio kao teorije zavjere, tvrdeći da su Sjedinjene Američke Države trenutno ispred Kine u razvoju vještačke inteligencije te da to vodstvo ne bi trebalo dovoditi u pitanje. Sličan stav zastupa i direktor Mete Mark Zuckerberg.

Njemačka, s druge strane, navodi da upozorenja shvata veoma ozbiljno i snažno se zalaže za multilateralna rješenja. Najviše bezbjednosno tijelo ove zemlje, Nacionalno vijeće bezbjednosti, već je razmatralo ovo pitanje. Vlada u Pekingu takođe je signalizirala spremnost na uvođenje standardizovanih pravila.

Ipak, važno je i ne stvarati nepotrebnu paniku. Kako ističu mnogi stručnjaci, scenarij u kojem vještačka inteligencija briše cijelo čovječanstvo i dalje je malo vjerovatan. Međutim, vlade širom svijeta trebale bi se ozbiljnije pripremiti za scenarije koji uključuju teške kibernetičke napade ili čak upotrebu biološkog oružja stvorenog pomoću vještačke inteligencije.