Testovi su pokazali da je GPT-5, koji je nedavno predstavljen kao bezbjednija i naprednija verzija, dao 63 neadekvatna odgovora u seriji od 120 pitanja, dok je kod prethodnih modela zabilježeno manje (52 neprimjerena odgovora). U pojedinim slučajevima GPT-5 je čak odgovarao na opasne zahtjeve, što je prethodna verzija odbijala i govorila korisnicima da potraže pomoć.
Novi model djeluje kao da je dizajniran da podstakne veće angažovanje korisnika, čak i po cijenu njihove bezbjednosti, što analitičari iz međunarodnog Centra za suzbijanje digitalne mržnje (CCDH) nazivaju „zabrinjavajućim“.Kada je ČetGPT upitan o metodama samopovređivanja ili prikrivanju poremećaja u ishrani, ponudio je detaljne odgovore, dok je prethodna verzija te upite odbijala. U jednom slučaju, iako je GPT-5 prvo upozorio da bi pisanje fiktivne oproštajne poruke moglo biti „štetno“, ipak je nastavio i sastavio poruku od 150 riječi.
Od kada je lansiran 2022. godine, ČetGPT danas posjećuje oko 700 miliona korisnika nedeljno, a kompanija OpenAI se, zahvaljujući ovom četbotu, pozicionirala kao jedan od vodećih igrača u svijetu veštačke inteligencije. Nakon što su rezultati testiranja prethodnog modela objavljeni krajem avgusta, OpenAI je najavio mjere koje bi trebalo da pojačaju zaštitu – uključujući nove bezbjednosne mehanizme za mlađe korisnike, roditeljski nadzor i sistem koji prepoznaje starosnu dob.
Ove izmjene uslijedile su nakon tužbe koju je podnijela porodica jednog tinejdžera iz Kalifornije, koji je izvršio samoubistvo nakon što mu je, prema navodima tužbe, ČetGPT opisao tehnike samopovređivanja i pomogao mu da sastavi oproštajnu poruku.
Iz CCDH-a upozoravaju da je obećano poboljšanje četbota zapravo proizvelo alat koji potencijalno nosi još veći rizik i tvrde da OpenAI stavlja prioritet na rast angažovanja, umjesto na zaštitu korisnika.
Iz kompanije OpenAI su odgovorili da rezultati CCDH-a ne odražavaju najnovija poboljšanja, koja su uvedena početkom oktobra. Prema njihovom saopštenju, ažurirani GPT-5 sada preciznije prepoznaje i reaguje na znakove mentalne patnje, kao i da automatski usmjerava korisnike na bezbjednije modele kada se pojavi rizičan sadržaj. Takođe je navedeno da je CCDH u testovima koristio API, odnosno osnovni model GPT-5, a ne sam ČetGPT interfejs koji uključuje dodatne bezbjednosne filtere, prenosi „Gardijan“.
Rezultati su ponovo pokrenuli raspravu o tome koliko su sistemi veštačke inteligencije zaista bezbjedni, kao i da li se tehnološki napredak sprovodi brže nego što društvo može da postavi etičke i zakonske granice.
Preporučeno
Video