Hinton je dobitnik Nobelove nagrade u naučnim disciplinama i bio je direktor u Googleu. I prije je upozoravao na mogućnost od 10 do 20 posto da vještačka inteligencija uništiti čovječanstvo. Sumnja i u to kako tehnološke kompanije nastoje osigurati dominaciju čovjeka nad vještačkom inteligencijom.
“To neće uspjeti. Vještačka inteligencija će biti mnogo pametnija od nas. Imat će različite načine da nas prevaziđe”, izjavio je jučer na industrijskoj konferenciji u Las Vegasu Ai4.Prema njegovim riječima, vještačka inteligencija bi mogla kontrolirati ljude jednako kao što odrasla osoba može primamiti trogodišnjaka slatkišima. Ranije ove godine bilo je moguće vidjeti vještačku inteligenciju koja je spremna obmanjivati, varati i krasti kako bi ostvarila svoje ciljeve. Primjera radi, jednog inženjera je ucijenila aferom za koju je saznala preko e-maila.
Hinton ne misli da je rješenje u primoravanju vještačke inteligencije da se pokori ljudima. Naime, zagovara intrigantno rješenje – ugrađivanje “majčinskih instinkta” u vještačku inteligenciju kako bi istinski brinula o ljudima, čak i onda kada je moćnija i pametnija od njih.
Očekuje da će vještačka inteligencija razviti, kako je konstatirao, dva podcilja. Jedan je da ostane živa ako je pametnija od čovjeka i drugi je da ima veću kontrolu. Za njega postoji dobar razlog vjerovati da će vještačka inteligencija sama nastojati da se održi.
Shodno tome, kako je predložio, važno je kod nje razvijati saosjećanje prema ljudima. Kao argumentom u prilog ovom stavu pozvao se na to da majke imaju instinkt i da su pod društvenim pritiskom da se brinu o svojoj djeci.
“Jedini dobar ishod”
Priznaje da ni njemu samom nije jasno kako je to moguće tehnički izvesti, ali tvrdi da stručnjaci već rade na tome.
“To je jedini dobar ishod. Ako se prema meni neće odnositi kao roditelj, zamijenit će me. Većina superinteligentnih brižnih majki, zasnovanih na vještačkoj inteligenciji, neće željeti riješiti se majčinskog instinkta jer neće željeti da umremo”, rekao je Hinton.
On je poznat po pionirskom poduhvatu u neuronskim mrežama, čime je napravio put ka procvatu vještačke inteligencije. Prije dvije godine je napustio Google i počeo govoriti o opasnostima od vještačke inteligencije.
Emmett Shear, bivši privremeni direktor izvršnog direktora kompanije OpenAI, čiji je alat vještačke inteligencije ChatGPT, kazao je da nije iznenađen time što su neki sistemi vještačke inteligencije pokušali ucjenjivati ljude ili zaobići naredbu o gašenju.
“Ovo se stalno događa i neće prestati događati se. Vještačka inteligencija je trenutno relativno slaba, ali veoma brzo jača”, napomenuo je Shear, koji je trenutno direktor startup kompanije za vještačku inteligenciju Softmax, na konferenciji Ai4.
Mišljenja je da bi umjesto ugrađivanja ljudskih vrijednosti u sisteme vještačke inteligencije pametnije bilo uspostaviti saradnju između čovjeka i vještačke inteligencije.
Razvoj brži od očekivanog
Mnogi stručnjaci očekuju da će vještačka inteligencija u sljedećih nekoliko godina biti superinteligentna (AGI), tj. da će moći samostalno učiti. Hinton je prije pretpostavljao da će za to biti potrebno između 30 i 50 godina, ali sada pretpostavlja da će se to dogoditi i ranije.
“Razumna je procjena da će se to dogoditi za pet do 20 godina”, dodaje.
Iako je zabrinut zbog toga šta će krenuti po zlu s vještačkom inteligencijom, nada se da će ona stvoriti put medicinskim otkrićima. Osim toga, ne vjeruje da će vještačka inteligencija ljude učiniti besmrtnima.
“Ne vjerujem da ćemo vječno živjeti. Vječni život bi bio greška. Da li želite da svijetom upravljaju bijelci stari 200 godina”, poručio je Hinton.
Preporučeno
Na pitanje šta bi uradio drugačije u svojoj karijeri da je znao koliko brzo će se razvijati vještačka inteligencija, odgovorio je da žali što se fokusirao samo na to da vještačka inteligencija funkcionira. Naime, kako je kazao, više bi volio da je razmišljao o sigurnosnim pitanjima vještačke inteligencije, piše CNN.
Video