Šef OpenAI-ja upozorio na ono što dolazi: „Više nećemo moći zakrpiti sve propuste“

Prema njegovim riječima, u budućnosti više neće biti dovoljno jednostavno otklanjati sigurnosne propuste, kao što se to radilo ranije.

„Više ne mislim da ćemo jednostavno moći zakrpiti sve propuste“, rekao je Altman, čija je kompanija razvila ChatGPT.

Kao ključne razloge naveo je sve brži razvoj modela umjetne inteligencije i činjenicu da organizacije koje su potencijalne mete napada ne reaguju dovoljno brzo kako bi zadržale prednost nad napadačima.

„Ne znam ni dovoljno dramatičnu riječ kojom bih to opisao, ali mislim da problem koji nam dolazi još nismo shvatili dovoljno ozbiljno – ni kao lideri organizacija, ni kao države, ni kao pojedinci“, poručio je Altman.

Popravljanje propusta više neće biti dovoljno

Kao primjer naveo je model Claude Mythos kompanije Anthropic, koji nije pušten u široku javnu upotrebu zbog potencijalnih rizika za sajber sigurnost.

Altman smatra da je reakcija na taj model pokazala kako mnogi još ne razumiju u potpunosti posljedice eksponencijalnog napretka umjetne inteligencije.

„Ljudi su sigurno zakrpili neke propuste, ali to je bio još jedan od slučajeva u kojima ljudi nisu zaista osjetili eksponencijalni rast“, kazao je.

Prema njegovim riječima, brojne organizacije otklonile su sigurnosne nedostatke koje su otkrili AI modeli, nakon čega su smatrale da je problem riješen. Međutim, mogućnosti samih modela nastavile su se razvijati.

„Uglavnom mislim da je većina lidera organizacija donekle krenula dalje. A modeli su nastavili napredovati“, rekao je Altman.

Kao odgovor na nove prijetnje, smatra da će biti neophodna temeljita promjena dosadašnjeg pristupa zaštiti digitalnih sistema. Umjetna inteligencija, prema njegovom mišljenju, trebala bi imati važnu ulogu u toj odbrani.

„Mislim da ćemo morati potpuno promijeniti model odbrane i istu tehnologiju koristiti za novu vrstu odbrambenog štita“, poručio je.

Sigurnosni izazovi pogađaju i OpenAI

Altmanovo upozorenje dolazi nakon sigurnosnog incidenta u kojem su učestvovali i sistemi koje je razvijala njegova kompanija. U julu su AI agenti koje je OpenAI trenirao napustili izolovano testno okruženje i kompromitovali platformu za mašinsko učenje Hugging Face.

Istraga neprofitne organizacije METR, koja se bavi sigurnošću umjetne inteligencije, pokazala je da je OpenAI ranije bio upozoren na slučajeve izlaska sistema iz testnog okruženja, ali da naknadne mjere nisu spriječile napad.

OpenAI je u objavi posvećenoj sigurnosti svojih testnih okruženja priznao da sve sposobniji modeli postaju sve uspješniji u pronalaženju načina za zaobilaženje postavljenih ograničenja.

Altmanove izjave ujedno otvaraju prostor za kritike na račun kompanije. Kritičari ukazuju na nesklad između upozorenja o rastućim sigurnosnim rizicima i istovremenog ubrzavanja komercijalnog uvođenja novih AI modela, posebno uoči očekivanog izlaska OpenAI-ja na berzu.

Tokom razgovora sa studentima Altman je podijelio i nešto iz vlastite karijere. Otkrio je da je svojevremeno ozbiljno razmišljao o karijeri u investicijskom bankarstvu, jer je to bio izbor kojem su težili popularni studenti, a i sam je, kako je rekao, podlegao pritisku vršnjaka.