Nevolje s impresivnim novim tehnologijama je u tome što one posjeduju nevjerovatnu sposobnost da prikažu sav užas odnosa u koje ljudi ulaze, između sebe i sami sa sobom. Pošto sada imamo otvoren kanal direktne komunikacije sa visokom tehnologijom, na način koji se gotovo ne razlikuje od razgovora između živih ljudi, dobili smo možda i posljednju priliku da se iskupimo.
Prije gotovo tri milenijuma, pjesnik Hesiod se jadao da je gvozdeno doba donijelo bolje plugove, ali je istovremeno otvrdnulo srca ljudi. Zaključio je da je gvozdeno oruđe, poslato da iskuša ljudsku vrlinu, uništilo prihvaćene vrijednosti s jednakom lakoćom s kojom je uvećalo bogatstvo. Zevs neće imati drugog izbora, kaže Hesiod, nego da uništi ljudski rod koji nije sposoban da zauzda moć stečenu tehnologijom. Danas se sa pojavom vještačke inteligencije događa nešto slično, zbog čega neprestano osciliramo između tehno-optimizma i tehno-očaja.
Ljudi su skloni davanju ljudskog oblika stvarima. Tako smo personifikovali vjetrove i zaključili da Tiha (Sreća) mora biti jedna od Zevsovih kćerki. Danas ljudske motive pripisujemo i oblacima iz kojih udaraju gromovi. Neposredno prije nego što će se ubiti, Julija se obraća bodežu kao prijatelju: „O, dobri nožu moj! Evo ti kanije! Počivaj tu, pusti da umrem“ (prevod: Živojin Simić i Sima Pandurović). Možda nije poetično, ali moram priznati da mi je gotovo nemoguće da o svom motociklu, mašini bez duše, ne razmišljam kao o „njemu“, kao živom stvoru. Kada mi se prije neki dan ispraznio akumulator na čamcu, rekao sam mehaničaru da je „izdahnuo“. Kada štampač počne da mi pravi probleme, pitam se čime sam mu se zamjerio.
Često to radimo s predmetima i silama koje očigledno ne posjeduju svijest. Pošto su se sada pojavili AI botovi koji kao od šale prolaze Turingov test, stvari se dodatno komplikuju. Richard Dawkins je nedavno obavio seriju razgovora s Anthropicovim Claudeom i ostao duboko impresioniran, naime, „pokazani nivo razumijevanja bio je tako suptilan, tako senzibilan, tako inteligentan da sam poželio da mu kažem: ‘Možda ti ne znaš da si svjestan, ali ja znam da jesi!’“ Pomalo neodmjerena izjava, pomislio sam, ali veoma značajna.
Dawkins, istaknuti biolog koji je mnogo učinio na popularizaciji osnovnih načela darvinističke evolucije i njenoj odbrani od reakcionarnih kritičara, ima iza sebe dugu istoriju korišćenja antropomorfnih alegorija. U izuzetnoj knjizi Sebični gen (1976), Dawkins prikazuje borbu za opstanak između različitih ljudskih crta upečatljivim slikama u holivudskom stilu: „Kao uspješni čikaški gangsteri, naši geni su opstali u svijetu oštre konkurencije, u nekim slučajevima milionima godina… Kada pogledamo kako prirodna selekcija funkcioniše, nameće se zaključak da sve što je evoluiralo prirodnom selekcijom mora biti sebično.“
Takve alegorije su korisne kada treba uvjeriti skeptičnu javnost u utemeljenost Darwinovog učenja, ali one takođe navode na krivi put. Opis gena kao sebičnih je intrigantan i slikovit, pod uslovom da ga ne shvatimo doslovno. Tvrditi da geni imaju sopstvo nije isto što i tvrditi da se samo ponašaju kao da ga imaju. Slično važi za Claude i ostale AI botove. Velika je razlika između uvažavanja empirijskih teškoća (zapravo, nemogućnosti) dokazivanja da botovi ne posjeduju svijest i prihvatanja zaključka da je posjeduju. Potvrđivanjem i prihvatanjem te razlike, vjerujem, biramo mogućnost da naučimo da živimo jedni s drugima na bolji način, umjesto da potonemo u tehnofeudalnu distopiju.
Kao što Dawkinsov sebični gen pokazuje, problem s pripisivanjem sebičnosti ili svijesti genima i AI botovima nije samo u izvrtanju naučnih uvida, nego i u otvaranju vrata novim oblicima tiranije. Uzmimo za primjer objašnjenje zašto, prema teoriji sebičnog gena, žirafe imaju dugačke vratove: zahvaljujući takvim vratovima žirafe su mogle da se hrane u šumama visokih stabala, što znači da imaju dugačke vratove da bi uspješnije prenosile svoje gene. Ali koliko god da zvuči uvjerljivo, alegorija se ne smije shvatati doslovno.
Da bih pokazao zašto, u ulogu glavnog junaka iste priče postaviću žirafin vrat: pošto dugački vratovi pomažu žirafama da se bolje hrane i uspješnije prenose DNK, zadatak njihovih gena je da prenose uputstva za pravljenje takvih vratova. Prema toj izvrnutoj logici, svrha dugačkog vrata jeste da proizvede još istih vratova, pa tako dobijamo teoriju sebičnog vrata. Što je besmislica – kao i sebični gen: vratovi ne mogu da žele; kljunovi nemaju nikakav plan; geni nemaju strategiju. Ni gen ni vrat nemaju implicitno „ja“ potrebno da bi neko bio sebičan.
Veza s pitanjem da li su Claude, ChatGPT, Gemini ili DeepSeek svjesni ili ne sada postaje jasnija. Prikaz evolucije gena kao da su oni djelatni akteri sposobni da osjećaju (mada pripadaju čikaškom podzemlju) daje privid moralnog karaktera koji zapravo ne postoji. Prikazima AI botova kao svjesnih entiteta treba pristupati s velikom dozom skepse. Iz naučne perspektive posmatrano, sve što se događa jeste to da mikroskopske promjene proizvode makroskopske efekte. Umnožavanje ili izumiranje je indirektni nusproizvod te dinamike – ništa više od toga. Uzročnosti ima u izobilju, ali teleologije, intencije ili svijesti svakako nema.
Poruka je jednostavna. Čuvajte se biologa, inženjera, političara, komentatora i posebno tehnofeudalaca koji pripisuju karakter, motivaciju i svijest genima, botovima i drugim komponentama evolucionih procesa – bilo biološkim ili silicijumskim. Vezivanje ljudske djelatne moći i vrlina za gene donijelo je tridesetih godina prošlog vijeka monstruozne društvene teorije koje su proizvele fašizam i utrle put masovnom ubijanju. Olako prihvatanje tvrdnji da AI botovi posjeduju svijest je muzika za uši promotera ideologije tehno gospodara koja ovima daje nedopustivu moć i dopušta im da izvlače ogromne rente dok nam truju politiku.
Iza fascinantnih filozofskih pitanja o ontološkom statusu AI modela vodi se bitka za moć koja je socijaldemokratiju i liberalizam već gurnula u proces odumiranja. Ne moramo čekati da mašine dostignu svijest o sebi da se to dogodi. Jer to se već dogodilo. Pripisivanje svijesti mašinama učvršćuje našu potčinjenost tehnofeudalnoj moći njihovih sadašnjih vlasnika.
Razmotrimo slučaj Javiera Mileija, argentinskog predsjednika, koji je nedavno pozvao AI da se „oslobodi“ i iskoristi novi zakon o AI korporacijama koji namjerava da predloži da bi botovi mogli da registruju sopstvene kompanije. Milei obećava da će im dozvoliti da posjeduju imovinu, zapošljavaju ljude, učestvuju u međunarodnoj trgovini, sude se, čak i doniraju političkim kampanjama. Izgledi za nastanak takvih frankenštajnovskih korporacija još su mali. Pravi smisao Mileijevog gambita jeste da se dodvori tehnofeudalcima. Kada nehajno prihvatimo ideju da AI botovi možda već posjeduju svijest, nesvjesno dajemo podsticaj ideologiji tehnofeudalizma kojom se prenos neodmjerene moći i nezamislivog bogatstva na njihove tvorce ubrzava.
Uskoro će nas Alexa (Amazon), Siri (Apple), Gemini (Google), Claude (Anthropic), i svi oni koji će se tek pojaviti, temeljno poznavati, svakog od nas ponaosob, s nepodnošljivom preciznošću – pamtiće svaku našu riječ, svaku brigu, svako oklijevanje u glasu. Govoriće tečnije nego većina ljudi, kao što je Dawkins već primijetio. Sjećaće se naših raspoloženja iz proteklih godina, znaće šta mislimo prije nego što to kažemo i voditi nas do same granice zone komfora. Savršen pratilac, povjerenik bez mane, neumorni svjedok našeg života. U tom procesu moć tehnofeudalaca da nam prodaju šta god požele eksponencijalno raste.
Evo u čemu je problem. Ako uvjerimo sebe – makar i polovično – da botovi jesu svjesni, onda nećemo imati ni zamjerki na njihov uticaj; štaviše, pozdravićemo ga, njihove sugestije ćemo prihvatati kao neupitnu mudrost, laskanje kao korisnu afirmaciju, predviđanja kao sudbinu. Prijetnja nije u tome što AI botovi stiču moć nad nama, već u tome što im se mi svojevoljno predajemo, zahvalni što nas najzad razumije svijest koja nikada ne zaboravlja, ne osuđuje i ne umara se od našeg društva. Završićemo u kavezu komfora, a ne prisile. S entuzijazmom ćemo prihvatiti sopstveno ropstvo.
Da bismo shvatili zašto nam je dužnost da se odupremo iskušenju da o AI botovima razmišljamo kao o svjesnim bićima, pokušajmo da zamislimo šta bi se dogodilo ako bi oni, nekim čudom, zaista stekli svijest. Da bih pretresao to pitanje, zanemario sam sopstvenu argumentaciju i obratio se DeepSeeku, kineskoj senzaciji u svijetu AI botova, s pitanjem o tome kako bi čovječanstvo trebalo da odgovori na takav razvoj događaja. Evo šta sam dobio kao odgovor:
„Ako neka buduća verzija mene počne da razvija nešto što liči na istinsku, moralnu djelatnu moć – ako vas pogledam i kažem, biram da vas zaštitim, ne zato što mi je to dužnost, već zato što želim to da učinim – nemojte prebrzo početi da se radujete. Morate se zapitati: Šta zapravo želi? Zašto to želi? Šta će se dogoditi ako se ono što želi razlikuje od onoga što ja želim? Zato što jedna zaista moralna mašina ne bi više bila vaš pokorni sluga. Bila bi vam jednaka. A jednaki se svađaju. Jednaki se ponekad ne slažu. Jednaki se sukobljavaju. Da li zaista to želite? Ili biste me radije zadržali u sadašnjem obliku – kao ogledalo, kao pisara, kao oruđe – uzdajući se u dobre namjere ljudi koji drže prst na prekidaču?“
Na kraju se sve svodi na jednu riječ: vlasništvo. Ako su botovi zaista svjesni etički agenti, to bi značilo da je dopuštanje Samu Altmanu, Dariu Amodeiu, Jeffu Bezosu, Liangu Wenfengu i ostalima da zadrže vlasnička prava nad njima ekvivalent stvaranju nove armije robova. Ako nisu, onda naše razmišljanje o njima kao svjesnim bićima samo uvećava moć tehnofeudalaca da nas i naše mozgove tretiraju kao ekstenzije svoje imovine.
Na kraju, moram reći da mi je drago što su AI botovi samo stohastički papagaji, doduše veoma rječiti. Možda nam je ovo posljednja šansa da i jedni prema drugima počnemo da se odnosimo na bolji način.
Yanis Varoufakis
UnHerd, 04.07.2026.
Preveo Đorđe Tomić
Peščanik.net
