Vještačka inteligencija izmišlja svaki treći odgovor, pokazalo je veliko istraživanje koje je sprovela Evropska radiodifuzijska unija (EBU).
Osim što prave alarmantan broj grešaka, piše Deutsche Welle, AI chatbotovi poput ChatGPT-ja, Claudea ili Perplexityja čak lažno navode izvore iz kojih su navodno preuzeli informacije.
Istraživanje otkriva i da samo ChatGPT svakodnevno koristi oko 800 miliona ljudi širom svijeta, pri čemu su ovakvi chatbotovi mnogima već postali zamjena za tradicionalne pretraživače poput Googlea.
Evropska radiodifuzijska unija – udruženje 68 javnih emitera iz 56 zemalja – testirala je pouzdanost najpopularnijih sistema s vještačkom inteligencijom i utvrdila da je čak 40 odsto njihovih odgovora potpuno izmišljeno, a predstavljeno kao činjenica.
Naveli su i neke od primjera tih dezinformacija: tako ChatGPT tvrdi da je papa Franjo još živ, dok Microsoftov Copilot navodi kako Švedska nije članica NATO-a.
„Sistemi zvuče uvjerljivo, iako više puta iznose potpuno lažne tvrdnje. To ih čini posebno opasnima za neiskusne korisnike, jer greške često nijesu odmah očigledne“, upozorava ekonomista Peter Poš sa Tehničkog univerziteta u Dortmundu.
Postoji i fenomen koji, prenosi DW, stručnjaci nazivaju ‘halucinacija’. U pitanju su situacije kada AI izmišlja informacije koje djeluju koherentno, ali nemaju činjeničnu osnovu. To je najčešće zabilježeno kod regionalnih događaja, aktuelnih vijesti ili kada chatbot pokušava da poveže više informacija.
Studija upozorava i na brojne prijetnje koje donosi ovaj fenomen – među njima su lažni podaci predstavljeni kao činjenice na društvenim mrežama, zbog čega ih ponekad studenti čak navode u svojim radovima. Utvrđeno je i da su pojedini birači glasali za političare pod uticajem “lažnih vijesti”.
Sledeći veliki problem je ugrožena vjerodostojnost medija. Naime, chatbotovi navode da su određene informacije preuzeli, na primjer, sa njemačkih javnih servisa ZDF i ARD, iako one tamo nikada nijesu objavljene. Zbog toga se, naglašavaju autori istraživanja, gubi povjerenje u renomirane izvore.
U sklopu EBU-ove studije chatbotovi su testirani stotinama pitanja podijeljenih po oblastima – istorijski događaji, naučne spoznaje i aktuelnosti. Stopa grešaka, zavisno od teme, kretala se između 15 i 40 odsto.
Utvrđen je i uzrok tog fenomena – činjenica da chatbotovi zapravo ne razumiju ono o čemu govore, već samo izračunavaju koje bi riječi najvjerovatnije odgovarale, na osnovu ogromnih količina teksta.
Tehnološke kompanije su svjesne tih nedostataka i ulažu milione dolara u pokušaje da ih otklone. Međutim, uprkos velikim ulaganjima, još nijesu uspjele da riješe problem.
