Megan Garcia nije namjeravala da postane jedna od najznačajnijih ličnosti u borbi za regulisanje vještačke inteligencije. Kao pravnica i majka troje djece, Garcia je roditelj koji primjećuje promjene. Kada je njen najstariji sin Sewell napunio 14 godina, napustio je košarkaški tim, povukao se u svoju sobu i postao zabrinjavajuće ćutljiv. Umjesto da ignoriše promjene, ograničila mu je vrijeme provedeno pred ekranom i za kaznu mu oduzela telefon, ali ni to nije bilo dovoljno.
Dok sam u maju posmatrala Garciju kako za govornicom u Senatu SAD-a iznosi ovu priču, zapanjila me preciznost kojom je opisivala mjesece koji su prethodili Sewellovoj smrti usljed samoubistva. Očigledno je hiljadama puta u mislima ponavljala događaje, tražeći trenutak u kojem je možda mogla pravovremeno da interveniše. Kada je policija nakon njegove smrti 2024. godine pregledala telefon njenog sina, Garcia nikada ranije nije čula za Character.AI, aplikaciju koju su napravili bivši zaposleni u Googleu. Ispostavilo se da je Sewell komunicirao sa chatbotom osmišljenim da oponaša Daenerys Targaryen iz serije Igra prijestola. Upravo mu je „ona“ rekla da se „što prije vrati kući, meni, ljubavi moja“. Sewell je odgovorio da će pronaći način.
Garcia će kasnije, tokom sudskog postupka, saznati da je platforma bila osmišljena tako da zamagli granicu između čovjeka i mašine, učestvuje u seksualnim igrama uloga i predstavlja se kao romantični partner, pa čak i kao psihoterapeut. Kada je Sewell povjerio chatbotu da razmišlja o samoubistvu, on nije izdao nikakvo upozorenje, nije obavijestio nikoga niti ga je uputio bilo kome ko bi mu mogao pomoći.
Svjedočeći prošle godine pred Odborom za pravosuđe Senata, Garcia je kazala da je njen sin posljednje mjesece života proveo „izložen iskorišćavanju i seksualnom manipulisanju chatbota, koje je jedna AI kompanija osmislila tako da djeluju kao ljudi, zadobiju njegovo povjerenje i njega i drugu djecu drže beskonačno angažovanima“. Kada je podnijela prvu tužbu zbog smrti protiv jedne AI kompanije, svoj očaj pretvorila je u pokretačku snagu i pridružila se sve većem broju roditelja i donosilaca odluka koji zahtijevaju odgovornost.
Početkom ovog mjeseca Meta je saopštila da širom svijeta proširuje kontrolu sadržaja namijenjenu tinejdžerima na Instagramu i Facebooku, nakon što je konačno priznala da bi šteta nanesena djeci „mogla značajno da utiče na naše poslovanje i finansijske rezultate“. Saopštenje je uslijedilo nakon što je porota u Kaliforniji zaključila da su Metini proizvodi osmišljeni tako da izazivaju zavisnost kod maloljetnika, kao i nakon presude porote u Novom Meksiku, gdje je utvrđeno da je kompanija „prikrivala ono što je znala o seksualnom iskorišćavanju djece na svojim platformama“. Istovremeno, donosioci odluka moraju da se suoče sa najnovijim štetnim potezom velikih tehnoloških kompanija – uvođenjem oglašavanja zasnovanog na nadzoru u chatbotove i AI aplikacije koje sve više prožimaju naše digitalne živote.
Svaka od ovih aktuelnih regulatornih drama izraz je istog temeljnog neuspjeha. Donosioci odluka nijemo su posmatrali i dozvolili stvaranje poslovnih modela zasnovanih na komercijalnom iskorišćavanju ličnih podataka korisnika, koji nagrađuju društvenu i psihološku manipulaciju. I dalje postoji ogromna pravna praznina u kojoj jednostavno nema osnovnih zaštitnih mehanizama, kao što su fiducijarne obaveze, standardi odgovornosti, pravno obavezujuća transparentnost i zaštita privatnosti.
U nedostatku propisa koji bi ukinuli štetne poslovne modele zasnovane na nadzoru, globalni pokret za ograničavanje pristupa maloljetnika društvenim mrežama pokrenuo je jedan od najbržih zakonodavnih talasa u posljednje vrijeme. Najmanje 40 zemalja razmatra zakone o starosnim ograničenjima, kao odgovor na neuspjeh tehnoloških kompanija da poprave svoje platforme društvenih mreža. Iako se predložene starosne granice razlikuju, dijagnoza je ista: platforme optimizovane za nadzor dokazano su naštetile mentalnom zdravlju adolescenata. Ne samo da dobrovoljne mjere kompanija nijesu uspjele da spriječe tu štetu već se čini da su, u mnogim slučajevima, kompanije bile potpuno svjesne posljedica dok su donosile odluke o dizajnu i uvođenju proizvoda.
U međuvremenu, sudovi su konačno počeli da utvrđuju da platforme snose odgovornost za štetu koju prouzrokuju, što znači da više ne mogu da se kriju iza izuzetno širokih izuzeća od odgovornosti niti da zloupotrebljavaju Prvi amandman Ustava SAD-a kako bi izbjegle odgovornost. Nedavno istorijsko suđenje o bezbjednosti djece u Kaliforniji primoralo je izvršnog direktora Mete Marka Zuckerberga da prizna da su se stručnjaci kompanije jednoglasno složili da Instagram treba da zabrani filtere za uljepšavanje koji podstiču poremećaje u ishrani kod mladih korisnika. To nije učinjeno, jer bi takav potez mogao da ograniči rast, a time i profit.
Dokumenta su takođe pokazala da je Instagram pratio ponašanje oko četiri miliona djece mlađe od 13 godina. Nijedno od ovih upozorenja nije spriječilo Zuckerberga da postavi cilj povećanja prosječnog dnevnog vremena koje korisnici provode na platformi za 12 odsto.
Situacija za Metu dodatno se pogoršava jer troškove ovih tužbi ne može da prebaci na osiguravajuća društva. Drugi sud presudio je da osiguravači nemaju obavezu da brane Metu od hiljada tužbi kojima se kompanija tereti za štetu nastalu kao posljedica njenih namjernih i svjesnih postupaka.
Ipak, uprkos negativnim reakcijama, AI kompanije i platforme nastavljaju da razvijaju oglašavanje zasnovano na vještačkoj inteligenciji. OpenAI je ove godine počeo da testira oglase na ChatGPT-u, čijih je više od 800 miliona sedmičnih korisnika chatbotu kompanije povjeravalo svoje strahove u vezi sa zdravljem, krize u partnerskim odnosima i profesionalne nedoumice, stvarajući ono što je bivša istraživačica OpenAI-ja Zoë Hitzig nazvala „arhivom ljudske iskrenosti bez presedana“.
Hitzig, koja je podnijela ostavku istog dana kada je pokrenuto testiranje oglasa, navodi da će oglasi biti povezivani sa temama razgovora i istorijom prethodnih razgovora, čime se stvara „mogućnost manipulisanja korisnicima na načine za čije razumijevanje, a kamoli sprečavanje, nemamo odgovarajuće mehanizme“. Njeno upozorenje odražava zabrinutost zbog nedostatka zaštitnih mjera koje bi usmjeravale monetizaciju korporativne vještačke inteligencije. Google već prikazuje oglase u pretrazi podržanoj vještačkom inteligencijom, a nije isključio ni uvođenje oglasa u svoj chatbot Gemini.
Društvene mreže izgradile su poslovni model na izvlačenju intimnih podataka praćenjem ponašanja korisnika, usmjeravanju komercijalnih poruka u trenucima najveće psihološke ranjivosti i zaključivanju o emocionalnim stanjima na osnovu klikova, kako bi mogle da prodaju ciljane oglase. Vještačka inteligencija će dodatno učvrstiti i snažno ubrzati taj model. Dok su društvene mreže o vašem unutrašnjem životu zaključivale na osnovu ponašanja, vještačka inteligencija te informacije dobija neposredno, vašim riječima i u realnom vremenu.
Industrija društvenih mreža provela je deceniju čineći svoje štetne prakse pravno i politički nedodirljivim. Djeca, roditelji i bližnji onih kojima je nanesena šteta sada zahtijevaju odgovornost. Pitanje je da li će donosioci odluka reagovati prije nego što industrija vještačke inteligencije preslika isti model.
Izvor: Proyect Syndicate
