Prema Petri de Suter, Albert Ajnštajn je navodno rekao: „Dogma je neprijatelj napretka“. Međutim, naučnik nikada nije izgovorio ovu rečenicu. Stoga se radi o halucinaciji – lažnoj informaciji koju vještačka inteligencija predstavlja kao istinitu.
Zamislite da za pisanje govora koristite ChatGPT i tražite da uključi citat Alberta Ajnštajna na temu napretka. Moguća su dva scenarija: ili će vam ponuditi pravi citat, ili će proizvesti vjerovatan citat – nešto što Ajnštajn nikada nije rekao, ali je mogao.Ig Bersini (Hugues), profesor i direktor laboratorije za vještačku inteligenciju na belgijskom univerzitetu, objasnio je ovaj fenomen.
„Vještačka inteligencija je kombinovala Ajnštajnove citate kako bi stvorila novi koji ima smisla. Statistički gledano, Ajnštajn je to mogao reći. ChatGPT kombinuje riječi koje su često bile povezivane zajedno. Ali, naravno, ovaj citat je lažan jer ga Ajnštajn nikada nije izgovorio“, rekao je Bersini.
Kada kažemo da citat ima smisla, to znači da je riječ o statističkoj konstrukciji. Ona spaja različite riječi koje su dio citata određene osobe, ali redoslijed tih riječi zapravo ne postoji. Ajnštajn nikada nije rekao: „Dogma je neprijatelj napretka“.
U slučaju citata, to je fatalna greška, smatra Bersini.
„To je očigledno nešto što apsolutno mora biti provjereno. A ako ste rektor univerziteta, svakako morate da se pridržavate određenog etičkog kodeksa kada je riječ o znanju. Kada su u pitanju citati, njihova vjerodostojnost se mora provjeriti“, istakao je on, dodajući da je uz nekoliko klikova na pretraživaču moguće dokazati grešku.
Giganti vještačke inteligencije pokušavaju da smanje ove halucinacije.
U pojedinim oblastima one praktično ne postoje.
„Kada ima manje riječi, kao u programiranju i matematici, rječnik je ograničeniji za egzaktne nauke i vještačka inteligencija tada funkcioniše veoma dobro. Komplikovanije je kada je koristite za romane, eseje, filozofske tekstove ili govore. Riječi su raznovrsnije i mogu imati višestruka značenja“, rekao je Bersini, dodajući da je u tim oblastima potreban dodatni oprez.
Nesrećno iskustvo Petre de Suter služi kao podsjetnik.
Vještačka inteligencija nas može prevariti. I ona pravi lapsuse, jer je apsorbovala sve tekstove koji su joj dati. To je svojstveno i ljudskoj prirodi, s tom razlikom što ljudi razumiju koncept istine i laži, za razliku od vještačke inteligencije. Ona ne provjerava svoje izvore.
Preporučeno
„Zato je na vama da pažljivo obradite informacije koje prikupite i da u svakom trenutku vježbate svoje kritičko razmišljanje“, zaključio je Bersini.
Video