Kinesko regulatorno tijelo za sajber prostor uputilo je na javnu raspravu nacrt novih pravila kojima će se pooštriti nadzor nad uslugama vještačke inteligencije (AI) koje oponašaju ljudsko ponašanje i ulaze u emocionalnu interakciju sa korisnicima.
Prema predloženim propisima, regulacija bi se primjenjivala na AI proizvode i servise koji imaju simulirane crte ljudske ličnosti, obrasce razmišljanja i način komunikacije, uključujući tekstualnu, slikovnu, audio i video interakciju.Propisani nacrt traži da pružaoci ovakvih usluga upozore korisnike na prekomjernu upotrebu i prepoznaju potencijalne znake zavisnosti, te u tim slučajevima reaguju i intervenišu.
Takođe, predlozi obuhvataju i bezbjednosne mjere tokom čitavog životnog ciklusa proizvoda, uključujući reviziju algoritama, zaštitu podataka i ličnih informacija. Pružaoci usluga bi morali da prepoznaju emocionalno stanje korisnika i da preduzmu mjere ako se ustanove ekstremne emocije ili zavisničko ponašanje.
Nacrt takođe propisuje granice u domenu sadržaja, pa AI sistemi ne bi smjeli da generišu sadržaj koji ugrožava nacionalnu bezbjednost, širi glasine, promoviše nasilje ili opscenost.
Preporučeno
Peking ovim potezima želi da pojača bezbjednost i etičke standarde u razvoju i upotrebi naprednih AI tehnologija, posebno onih koje emituju ljudske karakteristike i mogu emotivno da utiču na korisnike.
Video