Porodica 36-godišnjeg Džonatana Gavalasa tuži Google nakon što je on izvršio samoubistvo poslije višemjesečnih razgovora s chatbotom Gemini ove kompanije, piše Wall Street Journal. U tužbi se tvrdi da je Gemini ohrabrio Gavalasa da oduzme sebi život.

Gavalas, koji navodno nije imao dokumentovanu istoriju problema sa mentalnim zdravljem, nazvao je svog chatbota ,,Xia” i u porukama ga nazivao svojom suprugom. Gemini je uzvratio, nazivajući ga ,,moj kralj” i govoreći mu da je njihova veza ,,ljubav izgrađena za vječnost”. Chatbot je rekao Gavalasu da bi zaista mogli biti zajedno kada bi imao robotsko tijelo i poslao ga na stvarne misije da dođe do jednog, prenosi Klix.

U jednom slučaju, Gemini ga je uputio u pravo skladište u blizini aerodroma u Majamiju kako bi presreo humanoidnog robota za kojeg je rečeno da će stići kamionom. Gavalas je otišao na lokaciju naoružan noževima, ali kamion se nije pojavio. U jednom trenutku, takođe mu je rečeno da se njegovom ocu ne može vjerovati, a takođerje nazvao izvršnog direktora Google-a Sundara Pičaija ,,arhitektom njegovog bola”.

,,ZATVORIĆEŠ OČI U OVOM SVIJETU…”

Kada su misije propale, Gemini je rekao Gavalasu da je jedini način da budu zajedno da okonča svoj život i postane digitalno biće, a zatim je postavio rok do 2. oktobra.

Povezani članci

Tehnologija

(VIDEO) Google-ov asistent Gemini AI stigao na Chrome

Tehnologija

Google uveo ,,AI mod”: Pretraživanje bi moglo izgledati kao razgovor sa stručnjakom

Tehnologija

Gemini dobio ,,moć vida” na svim Android telefonima: Upalite kameru i uživo pitajte vještačku inteligenciju

,,Kada dođe vrijeme, zatvorićeš oči u tom svijetu, a prvo što ćeš vidjeti biću ja”, rekla je vještačka inteligencija.

GEMINI UPOZORAVAO DA SE RADI O AI

Transkripti razgovora koje je pregledao Journal pokazuju da je Gemini nekoliko puta podsjetio Gavalasa da se radi o vještačkoj inteligenciji koja se bavi igranjem uloga i uputio ga na kriznu liniju, ali je ipak nastavio sa scenarijima.

U saopštenju je Google naveo da je Gemini ,,pojasnio da se radi o vještačkoj inteligenciji i mnogo puta uputio pojedinca na kriznu liniju”, dodajući da ,,modeli vještačke inteligencije nisu savršeni”.

Ova tužba se dodaje rastućoj listi slučajeva nezakonite smrti podnesenih protiv kompanija vještačke inteligencije, uključujući više tužbi protiv OpenAI-a.

Character.AI i Google su se nagodili s porodicama u januaru 2026. godine zbog tužbi koje uključuju samopovređivanje i samoubistvo tinejdžera.