U praksi, alati poput ChatGPT, Gemini i Claude i dalje često griješe.
Prema istraživanju BBC-ja iz oktobra, čak i najnapredniji modeli davali su netačne odgovore u 45 odsto slučajeva, prenosi Trender.Ipak, mnogi korisnici toga nisu svjesni.
PRIHVATANJE ODGOVORA ,,ZDRAVO ZA GOTOVO”
Novo istraživanje Univerziteta u Pensilvaniji pokazuje da ljudi imaju tendenciju da odgovore koje dobiju od AI-a prihvate ,,zdravo za gotovo”. Čak i kada su pogrešni. Studiju su sproveli istraživač Stiven Šo i profesor marketinga Gideon Nejv, prenosi Futurism.
U nizu eksperimenata, učesnicima su postavljana pitanja iz oblasti logike i opšteg znanja, uz mogućnost da koriste AI. Više od polovine ispitanika odlučilo je da se osloni na četbot.
Cilj istraživanja bio je da se ispita da li će korisnici vjerovati AI-u bez obzira na tačnost odgovora. To je fenomen koji su autori nazvali „kognitivna predaja“, odnosno odricanje od sopstvenog rasuđivanja. Oni mogu da vam promijene i političko mišljenje, zašto ne bi to radili i oko svega ostalog.
Ljudi slijede AI u četiri od pet situacija
Rezultati su bili upečatljivi.
U eksperimentu sa 359 učesnika, ispitanici su slijedili tačne savjete AI-a u 92,7 odsto slučajeva, ali su i pogrešne preporuke prihvatali u čak 79,8 odsto slučajeva. Drugim riječima, i kada AI greši, korisnici ga slijede u četiri od pet situacija.
Istraživanje ukazuje na širu promjenu u načinu na koji ljudi donose odluke i percipiraju informacije. „Mogućnost da ‘prepustimo razmišljanje’ tehnologiji do sada nije bila dovoljno istražena, a riječ je o veoma značajnoj promjeni“, rekao je Šo.
Autori upozoravaju da su korisnici spremni da se odreknu sopstvene procjene kada AI ponudi odgovor koji djeluje uvjerljivo, čak i ako nije tačan.
Štaviše, u takvim situacijama često imaju i veće povjerenje u pogrešne odgovore.
Gubitak kritičkog mišljenja
Rezultati takođe ukazuju na potencijalni gubitak sposobnosti kritičkog mišljenja
„Sposobnost da projverimo informacije koje dobijamo od AI-a postaje sve važnija“, ističe Nejv, dodajući da je riječ o vještini koju ljudi moraju aktivno da održavaju.
Kako se tehnologija dalje razvija i integriše u svakodnevni život, ova zavisnost bi mogla dodatno da raste. Komunikacija sa AI-jem, koja je trenutno ograničena na telefone i računare, vremenom će postajati sve prirodnija i prisutnija.
Dugoročno, istraživači upozoravaju na dublji problem: ne mora nužno AI postati savršen da bi ljudi počeli da mu sve više vjeruju. Biće dovoljno da se sami naviknu da mu prepuštaju donošenje odluka.
Preporučeno
„Postoji scenario u kojem ljudi postaju sve zavisniji od AI-a, slično kao što smo se navikli na tehnologije koje nam olakšavaju svakodnevicu“, kaže Nejv. „Ali kao što smo zbog toga izgubili neke sposobnosti, postoji rizik da izgubimo nešto ključno, sposobnost razmišljanja“.
Video