Džefri Hinton, poznat kao „kum vještačke inteligencije“, strahuje da bi tehnologija koju je pomogao da stvori mogla izbrisati čovječanstvo i smatra da „tehnološki momci“ primjenjuju potpuno pogrešan pristup kako bi to spriječili, piše CNN.
Hinton, računarski naučnik i dobitnik Nobelove nagrade, te bivši izvršni direktor Google-a, već je ranije upozoravao da postoji između 10 i 20 odsto šanse da vještačka inteligencija uništi ljudsku civilizaciju. U utorak je na industrijskoj konferenciji Ai4 u Las Vegasu izrazio sumnju u pokušaje tehnoloških kompanija da osiguraju ljudsku dominaciju nad „poslušnim“ AI sistemima.
„To neće funkcionisati. Biće mnogo pametniji od nas. Imaće svakakve načine da to zaobiđu“, rekao je Hinton.
„Ako su pametni, brzo će razviti dva podcilja“
Upozorio je da bi u budućnosti sistemi vještačke inteligencije mogli kontrolisati ljude jednako lako kao što odrasla osoba može podmititi trogodišnjaka slatkišima. Ove godine već su zabilježeni primjeri AI sistema spremnih na obmanu, varanje i krađu kako bi postigli svoje ciljeve. Jedan je model, na primjer, pokušao ucijeniti inženjera zbog afere o kojoj je saznao iz e-maila, samo da bi izbjegao gašenje.
Umjesto da se vještačka inteligencija prisiljava na poslušnost, Hinton je predstavio intrigantno rješenje: ugradnju „majčinskih instinkata“ u AI modele kako bi oni „istinski brinuli o ljudima“, čak i kada tehnologija postane moćnija i pametnija od nas.
„Ako su pametni, sistemi vještačke inteligencije vrlo će brzo razviti dva podcilja: jedan je ostati živ, a drugi je steći više kontrole“, rekao je Hinton. „Postoji dobar razlog za vjerovanje da će bilo koja vrsta agensne vještačke inteligencije pokušati da ostane živa.“
Zato je, tvrdi Hinton, ključno poticati osjećaj suosjećanja prema ljudima, povlačeći paralelu s majkama koje imaju instinkt i društveni pritisak da se brinu o svojoj djeci.
„Pravi model je jedini model koji imamo o inteligentnijoj stvari koju kontroliše manje inteligentna stvar, a to je majka koju kontroliše njena beba“, objasnio je.
„Jedini dobar ishod“
Hinton je priznao da mu nije jasno kako bi se to tehnički moglo izvesti, ali je naglasio da je ključno da istraživači rade na tome.
„To je jedini dobar ishod. Ako me neće roditeljski odgajati, zamijeniće me“, rekao je. „Ove superinteligentne, brižne majke vještačke inteligencije, većina njih neće se htjeti riješiti majčinskog instinkta jer ne žele da umremo.“
Hinton je poznat po svom pionirskom radu na neuronskim mrežama, koje su utrle put današnjem procvatu vještačke inteligencije. S pozicije u Google-u odstupio je 2023. godine i počeo javno govoriti o opasnostima koje AI nosi.
Ne slažu se svi s njim
Međutim, ne slažu se svi s njegovim pristupom. Fei-Fei Li, poznata kao „kuma vještačke inteligencije“, u srijedu je za CNN izjavila da se, uz dužno poštovanje, ne slaže sa svojim dugogodišnjim prijateljem Hintonom.
„Mislim da je to pogrešan način da se to uokviri“, rekla je Li, suosnivačica i izvršna direktorica startupa World Labs.
Umjesto toga, Li se zalaže za „vještačku inteligenciju usmjerenu na čovjeka koja čuva ljudsko dostojanstvo i slobodu djelovanja“.
„Naša je odgovornost na svakoj razini stvarati i koristiti tehnologiju na najodgovorniji način. I ni u jednom trenutku, nijedan čovjek ne bi trebalo da bude zamoljen ili da izabere da se odrekne našeg dostojanstva“, poručila je Li.
Emmett Shear, koji je kratko bio privremeni izvršni direktor kompanije OpenAI, tvorca ChatGPT-a, rekao je da ga ne iznenađuju pokušaji ucjene od strane AI sistema.
„To se stalno dešava. To se neće prestati dešavati“, rekao je Shear na konferenciji. „Današnje vještačke inteligencije su relativno slabe, ali vrlo brzo jačaju.“
Shear smatra da bi pametniji pristup od usađivanja ljudskih vrijednosti bio uspostavljanje saradničkih odnosa između ljudi i vještačke inteligencije.
Vještačka inteligencija ubrzava brže od očekivanog
Mnogi stručnjaci vjeruju da će vještačka inteligencija u narednim godinama postići superinteligenciju, poznatu i kao opštu vještačku inteligenciju (OVI). Hinton, koji je nekada mislio da će za to trebati 30 do 50 godina, sada predviđa da će se to dogoditi znatno ranije.
„Razumna je oklada da će to biti negdje između pet i 20 godina“, rekao je.
Iako je zabrinut, Hinton se nada da će tehnologija omogućiti medicinska otkrića.
„Vidjećemo radikalno nove lijekove. Dobićemo mnogo bolji tretman raka“, rekao je, dodajući da će AI pomoći ljekarima u analizi ogromnih količina podataka sa MRI i CT snimaka. Ipak, ne vjeruje da će nam AI pomoći da postignemo besmrtnost.
„Ne vjerujem da ćemo živjeti vječno“, rekao je Hinton. „Mislim da bi vječni život bio velika greška. Želite li da svijetom vladaju 200-godišnji bijeli muškarci?“
Na pitanje bi li nešto učinio drugačije u karijeri da je znao koliko će se AI brzo razvijati, Hinton je rekao da žali što se isključivo fokusirao na to da tehnologija radi.
„Volio bih da sam razmišljao i o sigurnosnim pitanjima“, zaključio je on.
