Nova nagrada će slaviti lošu, nepromišljenu ili sasvim opasnu upotrebu vještačke inteligencije (AI), a organizatori traže mišljenje interneta.
„AI Darvinova nagrada“ je priznanje “vizionare” koji “outsoursuju naše loše odluke mašinama”.Nema veze sa Darwin Awards, šaljivom nagradom koja već godinama prepoznaje ljude koji su “slučajno uklonili vlastiti DNK” iz genetskog fonda umiranjem na apsurdne načine.
Da bi osvojili jednu od nagrada fokusiranih na AI, nominovane kompanije ili osobe moraju da pokažu “spektakularno lošu procjenu” sa AI i da su “ignorisali očigledna upozorenja” prije nego što je njihov alat ili proizvod pušten u upotrebu.
Bonus poeni se dodjeljuju za AI projekte koji su dospjeli u vijesti, zahtijevali hitnu reakciju ili “pokrenuli novu oblast istraživanja bezbjednosti AI”.
“Ne ismijavamo samu AI, slavimo ljude koji su je koristili sa oprezom jednog djeteta sa bacačem plamena”, piše na stranici o nagradama.
Ironično, anonimni organizatori rekli su da će provjeravati nominacije djelimično preko AI sistema za provjeru činjenica, što znači da pitaju više velikih jezičkih modela (LLM) poput OpenAI-jevog ChatGPT, Anthropicovog Claudea i Googleovog Geminija da li su predložene priče tačne.
LLM modeli ocjenjuju istinitost priče od 1 do 10, a administratori sajta računaju prosjek rezultata pomoću AI kalkulatora. Ako je prosjek iznad pet, priča se smatra “provjerenom” i podobnom za AI Darvinovu nagradu.
Jedna od odobrenih nominacija za prve AI Darvinove nagrade je američki lanac brze hrane McDonald’s.
Kompanija je napravila AI chatbot za zapošljavanje pod imenom “Olivia” koji je bio zaštićen očiglednom šifrom: 123456, što je izložilo podatke o zapošljavanju navodno 64 miliona ljudi hakerima.
Drugi rani kandidat je OpenAI zbog lansiranja svog najnovijeg chatbot modela GPT-5. Francuski data naučnik Sergej Berezin tvrdio je da je uspio natjerati GPT-5 da nesvjesno izvrši štetne zahtjeve “bez ikada direktnog viđenja zlonamjernih instrukcija”.
Pobjednici će biti određeni javnim glasanjem tokom januara, a objava se očekuje u februaru.
Jedina nagrada je “besmrtno priznanje za njihov doprinos razumijevanju čovječanstva o tome kako ne koristiti vještačku inteligenciju”, rekli su organizatori.
Preporučeno
Cilj nagrada je da posluže kao “oprezne priče” budućim donosiocima odluka kako bi testirali AI sisteme prije nego ih implementiraju.
Video