OpenAI uveo zaštitu za tinejdžere, ali verifikacija dobi ima i drugu stranu

OpenAI ovu funkciju predstavlja kao mjeru zaštite mladih u trenutku kada se AI četbotovi suočavaju sa sve većom pažnjom zbog mogućeg utjecaja na maloljetnike. Sistem sam procjenjuje da li je korisnik tinejdžer na osnovu tema o kojima razgovara, vremena kada je aktivan i obrazaca korištenja naloga, a kada nije siguran, prema zadanim postavkama korisnika svrstava u zaštićeniju, tinejdžersku verziju.

Nalog se također može podesiti tako da ima dobno ograničenje. Do ovog trenutka priča izgleda kao klasična mjera sigurnosti. Međutim, ispod toga postoji još jedan sloj koji ima mnogo više veze s poslovnim modelom nego sa zaštitom djece.

Selfi kao izlaz i kao ulaz

Punoljetna osoba koju sistem greškom svrsta u tinejdžersku verziju ima samo jedan način da iz nje izađe – putem servisa Persona mora poslati selfi uživo, a u nekim zemljama i fotografiju lične karte. Persona taj dokument briše u roku od sedam dana, dok OpenAI, prema vlastitim navodima, nikada ne vidi ni selfi ni ličnu kartu, već samo datum rođenja koji iz njih utvrdi.

Ono što se rjeđe ističe jeste ono što se događa nakon tog koraka: korisnik koji uspješno dokaže da je punoljetan istog trenutka postaje dio grupe kojoj OpenAI smije prikazivati reklame, koje su odnedavno dostupne u 31 zemlji, među kojima su Hrvatska i Slovenija.

Kako verifikacija hrani oglasni sistem

To nije nagađanje, već direktna posljedica načina na koji je sistem postavljen. Reklame u ChatGPT-u trenutno se uvode na sve više tržišta, a kompanija izričito navodi da se neće prikazivati nalozima maloljetnih korisnika niti korisnicima za koje sistem sam procijeni da su maloljetni. Drugim riječima, da bi neko uopće mogao vidjeti reklamu, prvo mora biti potvrđeno da je punoljetan.

Verifikacija koja se predstavlja kao rješenje za grešku sistema za procjenu dobi u praksi funkcioniše i kao dobrovoljna potvrda dobi na velikom broju korisnika. Korisnik sam, zbog frustracije jer je pogrešno svrstan, prolazi kroz proces koji ga istovremeno prebacuje iz kategorije „bez reklama“ u kategoriju „podoban za reklame“.

EU regulativa: prednost i mana

Postoji i dodatni detalj koji pokazuje da regulativa još ne prati u potpunosti razvoj proizvoda. Automatsko prepoznavanje maloljetnika za sada ne funkcioniše jednako na svim tržištima.

U Evropskoj uniji ta funkcija se, prema OpenAI-jevoj vlastitoj dokumentaciji, i dalje najavljuje kao nešto što dolazi „u narednim sedmicama zbog regionalnih zahtjeva“. Ta rečenica u dokumentaciji stoji još od januara, kada je procjena dobi prvi put najavljena.

Verifikacija dobi ovdje ima dvije funkcije istovremeno: štiti djecu, a kao nusproizvod stvara precizniju bazu punoljetnih korisnika spremnih za monetizaciju.

To znači da korisnik u EU za sada dobija zaštićeno okruženje uglavnom ako se sam izjasni da je maloljetan. Automatski sistem koji bi to prepoznao bez izjašnjavanja tek treba biti uveden.

Šta se zapravo krije iza svega?

Ništa od ovoga ne znači da je zaštita maloljetnika lažna ili da je sistem loše osmišljen. Zaštita sadržaja za tinejdžere je stvarna i predstavlja značajan potez u industriji koja je dugo zanemarivala ovo pitanje.

Ali vrijedi primijetiti obrazac koji se ponavlja. Svaki put kada velika tehnološka kompanija najavi mjeru „za sigurnost korisnika“, ona rijetko postoji potpuno odvojeno od poslovnog modela koji je okružuje.

Verifikacija dobi ovdje istovremeno štiti djecu, ali kao nusproizvod omogućava i preciznije razdvajanje punoljetnih korisnika koji mogu biti uključeni u monetizaciju putem reklama.

Jedno ne isključuje drugo. Ali korisno je znati da postoje obje strane prije nego što nekome pošaljemo selfi vjerujući da je razlog samo jedan.