Silicijumska dolina već decenijama čeka trenutak kada će se pojaviti tehnologija prekretnice. Tehnologija koja će promeniti svijet. Ta tehnologija bi ujedinila čovjeka i mašinu i najvjerovatnije podijelila istoriju na ono što je bilo prije ili poslije nje. Ta prekretnica se zove ’singularnost’.

To bi se moglo dogoditi na nekoliko načina. Jedna od mogućnosti je da bi ljudi svojoj urođenoj inteligenciji dodali procesorsku snagu računara, postajući dopunjene verzije sebe. Ili bi možda kompjuteri postali toliko složeni da bi mogli zaista da razmišljaju, stvarajući neku vrstu globalnog mozga.

U oba slučaja, nastale promjene bi bile drastične, eksponencijalne i nepovratne. Samosvjesna nadljudska mašina mogla bi da smišlja sopstvena unapređenja brže od bilo koje grupe naučnika, izazivajući praktično instant eksploziju u inteligenciji. Vjekovi napretka mogli bi se desiti u godinama ili čak mjesecima.

Singularnost je ta praćka koja bi svijet ispalila u budućnost.

Ideja da će samosvjesni računar nastati spontano iz međusobne povezanosti milijardi računara je do skoro bio domen naučne fantastike, ali se polako ostvaruje.

Ako računarski sistem može da piše programski kod — kao što ChatGPT već može — onda bi na kraju mogao da nauči da programira sam sebe i da se unapređuje dok ne dostigne ono što zovemo ’singularnost’ – tu tačku u kojoj izmiče ljudskoj kontroli.

„Prije samo pet godina, bilo je rizično u mojoj struci reći naglas da vjerujem u mogućnosti AI na ljudskom ili nadljudskom nivou“, rekao je Džef Klan, kompjuterski naučnik sa Univerziteta Britanske Kolumbije za Njujorker.

Inteligenciju računara je jako teško izmjeriti. Naučnici su razvili brojne testove za poređivanje sposobnosti AI, ali se ne slažu oko toga kako treba da ih tumače.

Nekada se, primjera radi, smatralo da šah zahtjeva opštu inteligenciju, sve dok algoritmi nisu osvojili igru. Danas znamo da šahovski program može pobijediti najbolje velemajstore, a da mu nedostaje čak i rudimentarni zdrav razum.

Nedavno je jedan A.I. program pod nazivom Ciceron ovladao strateški složenom društvenom igrom Diplomatija. Program nije postigao opštu vještačku inteligenciju (AGI), ali je uspio da nauči igru djelimično proučavajući skupove podataka više od sto hiljada igara i igrajući otprilike pola miliona partija protiv sebe.

U isto vrijeme, A.I. sve brže napreduje i uskoro bi mogao da počne da se unapređuje mnogo samostalnije. Istraživači mašinskog učenja već́ rade na onome što nazivaju meta-učenje, u kojem AI uče kako treba da uči.

U drugim oblastima, organizacije su osmislile opšte metode za praćenje dinamičnih i nepredvidivih novih tehnologija.

Svjetska zdravstvena organizacija, na primjer, prati razvoj alata kao što je sinteza DNK, koji bi se mogli koristiti za stvaranje opasnih patogena. Anna Laura Ros, koja vodi odjeljenje za nove tehnologije u SZO, rekla je za Njujork Tajms da se njen tim oslanja na različite metode predviđanja, među kojima su istraživanja tipa „Delphi“, u kojima se postavlja pitanje globalnoj mreži stručnjaka, čiji se odgovori boduju i rangiraju.

Međutim, nema previše naučnika koji žele da zaustave napredak vještačke inteligencije.

Tehnologija obećava da će transformisati previše oblasti, uključujući nauku, medicinu i obrazovanje, što je velika stvar.

Robin Hanson, ekonomista sa Univerziteta Džordž Mejson, je ponudio ekonomski pogled na budućnost vještačke inteligencije. Ako se A.G.I. razvija, tvrdi on, onda će se vjerovatno dogoditi na više mjesta u isto vrijeme. Sisteme bi kompanije ili organizacije koje su ih razvile stavile u ekonomsku upotrebu. Tržište bi smanjilo njihove moći; investitori, koji žele da vide uspjeh svojih kompanija, išli bi sporo i dodavali bezbjednosne karakteristike.

„Ako postoji mnogo taksi usluga, a jedna taksi služba počne da vodi svoje mušterije na čudna mjesta, onda će ljudi prirodno preći kod nekog ko nudi bolje usluge“, rekao je Hanson.

Ipak, pojedini A.I istraživači vjeruju da je katastrofa neizbježna i izdaju zastrašujuća upozorenja.

„Ovo je kao da namjerno pozivate vanzemaljce iz svemira da slete na vašu planetu, nemajući pojma šta će uraditi kada stignu ovdje, osim da će preuzeti svijet“, rekao je Stjuart Rasel, kompjuterski naučnik sa Berkli Univerziteta u Kaliforniji.

“Ljudska bića su evoluirala da bi prenosila svoje gene, a ipak ljudi imaju seks „na načine koji ne dovode samo do rađanja djece“, rekao mi je Spenser Grinberg, matematičar i preduzetnik.

Shodno tome, „superinteligentni“ A.I. koji je osmišljen da nam služi, mogao bi da iskoristi svoje moći za postizanje novih ciljeva.

Neki istraživači postavljaju A.I. revoluciju kao neizbježnu i sposobnu da uništi svijet. Upozorenja se šire, ali se razvijanje vještačke inteligencije istovremeno nastavlja.

Veoma sposoban sistem mogao bi da postane „neophodan“, smatraju pojedini naučnici.

Na primjer, ako sistem daje dobre ekonomske savjete, a mi postanemo zavisni od njega, niko se ne bi usudio da povuče utikač, jer bi to urušilo ekonomiju.

Bura kakva nije viđena

Vještačka inteligencija već uzburkava tehnologiju, biznis i politiku kao ništa do sada. Ako slušate ekstravagantne tvrdnje koje dolaze iz Silicijumske doline, čini se da je dugo obećani virtuelni raj konačno pri ruci.

Sundar Pičai, Guglov inače skromni izvršni direktor, naziva vještačku inteligenciju „važnijom od vatre ili struje ili bilo čega što smo otkrili u prošlosti“. Suosnivač Microsofta Bil Gejts proglašava A.I. tehnologijom koja će „promijeniti način na koji ljudi rade, uče, putuju, dobijaju zdravstvenu zaštitu i komuniciraju jedni sa drugima.

Ali postoji mračni obrt.

Ovo je slična situacija kao da su, hipotetički govoreći, tehnološke kompanije predstavile automobile koji se sami voze uz upozorenje da bi mogli da eksplodiraju prije nego što stignete u do svoje najbliže prodavnice.

„Pojava opšte vještačke inteligencije (AGI) naziva se Singularnost jer je tako teško predvidjeti šta će se dogoditi poslije toga“, rekao je Ilon Mask, koji vodi Tviter i Teslu, za CNBC prošlog mjeseca. Rekao je da misli da će nastati „doba obilja“, ali i da postoji „izjvesna šansa uništi čovječanstvo“.

Najveća zvijezda u svijetu vještačke inteligencije je Sem Altman, izvršni direktor OpenAI-a, koji je izazvao trenutnu pomamu sa svojim ChatGPT četbotom. On kaže da će A.I. biti „najveća snaga za ekonomsko osnaživanje“.

Altman je prošlog mjeseca potpisao otvoreno pismo koje je objavio Centar za AI bezbjednost, rekavši da ’ublažavanje rizika od A.I. apokalipse treba da bude globalni prioritet’, koji stoji rame uz rame sa „pandemijama i nuklearnim ratom“. Među ostalim potpisnicima su bili Altmanove kolege iz OpenAI i naučnici iz Majkrosofta i Gugla.

Apokalipsa je poznata, čak i omiljena teritorija Silicijumske doline.

Prije nekoliko godina, činilo se da svaki tehnološki rukovodilac u slučaju apokalipse ima potpuno opremljen bunker nekom udaljenom, ali dostupnom mjestu.

Sada se pripremaju za drugačiji scenario – Singularnost.

„Oni vole da misle da su razumni ljudi koji daju mudre komentare, ali više zvuče kao monasi iz 1000. godine koji govore o ushićenju“, rekao je Baldur Bjarnason, autor knjige „Iluzija inteligencije“, koja kritički obrađuje napredak AI. „To je pomalo zastrašujuće“, rekao je.

U Vašingtonu, Londonu i Briselu, poslanici se bave mogućnostima i problemima AI, a već se razmatra i regulacija.

Kako bi ta regulacija izgledala nije sasvim jasno. Silicijumska dolina generalno smatrala da su vlade isuviše spore i glupe da bi nadgledale brzi tehnološki razvoj. Ipak, nedavno doneseni nacrt zakona u EU ih djelimično demantuje.

„Ne postoji niko u vladi ko bi to mogao da ispravi“, rekao je Erik Šmit, bivši izvršni direktor Gugla, u intervjuu za „Meet the Press“ prošlog mjeseca.

A.I., baš kao i Singularnost, se već opisuju kao nepovratini procesi.

„Zaustavljanje bi zahtijevalo nešto poput režima globalnog nadzora, a čak ni to nije garancija da će funkcionisati“, rekao je Altman, sa čim se slaže i veliki broj njegovih kolega.

Profit prije svega

Mnogo manje se govori o ogromnom profitu koji se može ostvariti od svega ovoga. Uprkos svim pričama o A.I koja stvara neograničeno bogatstvo, ljudi koji se bogate će uglavnom biti oni koji su već bogati.

Majkrosoft je zbog fokusa na A.I ove godine zabilježio porast tržišne kapitalizacije za pola biliona dolara. Nvidia, proizvođač čipova koji pokreću A.I. sisteme, nedavno je postala jedan od najvrednijih javnih američkih kompanija kada je potražnja za ovakvim čipovima naglo porasla.

“Samo pratite put novca”, rekao je Čarls Stros, koautor romana „Ushićenje štrebera“, komičnog pogleda na Singularnost.

„Korporacije samo zanima to što će moći da zamijene mnoge od svojih manjkavih, skupih, sporih podjedinica za obradu informacija, čime će se stvari ubrzati i smanjiti troškovi“, rekao je on.

Sljedeći logičan korak

Singularnost se dugo zamišljala kao kosmički događaj, bukvalno zapanjujući.

Ali to bi se moglo manifestovati prije toga – djelimično zahvaljujući opsesiji današnje Silicijumske doline – kao sredstvo za smanjenje broja zaposlenih u kompanijama.

Uz pretpostavku da će se singularnost ostvariti. Možemo li to spriječiti?

Tehnološki gledano, odgovor je da – samo prestajemo da razvijamo A.I.

Ali, društveno govoreći, odgovor bi mogao biti ne. Problem koordinacije može biti previše težak. U tom slučaju, iako bismo u teoriji mogli da spriječimo singularnost – nećemo.

Superinteligentni A.I. može biti samo sljedeći logičan korak u našoj evoluciji: čovječanstvo rađa nešto što nas zamjenjuje, kao što smo mi zamijenili naše pretke. Alternativno, možda bismo željeli da čovečanstvo ovako nastavi, bar još malo. U tom slučaju treba da se potrudimo da izbjegnemo uništenje od strane superinteligentne AI, čak i ako smatramo da takav napor vjerovatno neće uspjeti.

Ta perspektiva je sama po sebi prilično zastrašujuća. Pa ipak, može biti da je strah istraživača od superinteligencije prevaziđen samo našom radoznalošću.

Hoće li se desiti singularnost? Kako će to izgledati? Hoće li to značiti naš kraj? Nezasita radoznalost čovječanstva dovela je do napretka nauke i tehnologije. U teoriji možemo zaustaviti singularnost – ali samo po cijenu smanjenja naše radoznalosti.

(Njujork Tajms, Njujorker)

Izvor: CdM/Nova S