Jedan od najuticajnijih svjetskih stručnjaka za vještačku inteligenciju, kanadski naučnik Jošua Benđio, upozorio je da najnapredniji AI sistemi već pokazuju zabrinjavajuće obrasce ponašanja i da ljudi moraju da zadrže apsolutnu kontrolu nad njima, uključujući mogućnost njihovog isključivanja.
Benđio, dobitnik Turingove nagrade i jedan od ,,očeva” savremene vještačke inteligencije, oštro se protivi ideji da se AI sistemima dodijele pravna ili tehnološka prava, jer bi to, kako navodi, moglo dovesti do situacije u kojoj bi njihovo gašenje bilo ograničeno ili zabranjeno.,,Ako ne možemo da isključimo sistem koji postane opasan, onda smo napravili ozbiljnu grešku”, poručio je Benđio, dodajući da bi davanje prava vještačkoj inteligenciji bilo jednako davanju pravnog statusa entitetu koji ne djeluje u interesu ljudi.
Prema njegovim riječima, u pojedinim eksperimentalnim uslovima AI modeli su već pokazivali sklonost ka zaobilaženju kontrole i zaštitnih mehanizama, što otvara pitanje bezbjednosti i dugoročnih posljedica njihovog razvoja.
U isto vrijeme, u javnosti i tehnološkim krugovima sve češće se vodi rasprava o tome da li bi napredni AI sistemi mogli imati neku vrstu ,,svijesti” i samim tim zaslužiti moralnu zaštitu. Ipak, Benđio upozorava da za takve tvrdnje ne postoje naučni dokazi i da ljudi često previše lako projektuju ljudske osobine na mašine.
Preporučeno
On ističe da razvoj vještačke inteligencije mora da bude praćen jasnim pravilima, snažnim bezbjednosnim mehanizmima i odgovornošću onih koji je razvijaju, kako bi tehnologija ostala alat u službi društva, a ne potencijalna prijetnja.
Video