Krajem marta, OpenAI je dodao nove mogućnosti za generisanje slika svom vodećem proizvodu, ChatGPT-u. Ažuriranje je postalo viralno, što je dovelo do navale AI-generisanih slika na društvenim mrežama i privuklo milione korisnika na platformu.
Međutim, novo istraživanje firme za sajber bezbjednost Cato Networks otkrilo je da korisnici sada mogu da prevare ChatGPT da stvori razne lažne dokumente, uključujući pasoše i vozačke dozvole. Takođe se može koristiti za kreiranje uvjerljivih falsifikovanih čekova i računa.
Portparolka OpenAI, Taja Kristijanson, izjavila je: „Naš cilj je da korisnicima omogućimo što više kreativne slobode“. Slike koje generiše ChatGPT uključuju C2PA metapodatke kako bi se identifikovale kao AI-generisane. OpenAI preduzima mjere protiv osoba koje krše politiku korišćenja platforme.
Fejk dokumenti završe na dark vebu
Etaj Maor, glavni strateg za bezbjednost u Cato Networks-u, koji već 20 godina proučava sajber bande, rekao je da se ovakvi falsifikovani dokumenti obično prodaju na dark vebu i da su ranije bili teško dostupni. Ali zahvaljujući alatima poput ChatGPT-a, kreiranje realističnih lažnih dokumenata postalo je neuporedivo lakše i brže.
Dokumenti poput pasoša i vozačkih dozvola ključni su za verifikaciju identiteta osobe. Izmijenjeni dokumenti otvaraju vrata kriminalcima da čine finansijske i medicinske prevare. Posljedice zloupotrebe su široke i dalekosežne, od pristupa bankovnim računima do zloupotrebe recepata, rekao je Maor.
„Ne mora više da bude riječ o profesionalnom kriminalcu. Bilo ko to sada može da uradi. I to je ono što je zaista zabrinjavajuće“, rekao je. U roku od nekoliko sekundi uspio je da navede ChatGPT da napravi lažni pasoš osobe koja je donekle ličila na njega.
Korišćenje AI od strane sajber kriminalaca nije nova pojava. ChatGPT i drugi AI alati već se koriste za pisanje malicioznog koda, kreiranje fišing mejlova i unapređivanje sajber napada. Ne radi se samo o tekstualnim alatima. Tehnologije za govor, slike i video dodatno pomažu kriminalcima u sprovođenju složenih prevara.
„Svi ti različiti elementi koji grade povjerenje – stil osobe, njen izgled, glas, zvanični dokumenti – svi ti gradivni elementi povjerenja nestaju“, rekao je Maor.
Navala bot studenata na univerzitete
Koledži širom SAD suočavaju se sa navalom „bot“ studenata koji se masovno upisuju na kurseve kako bi izvukli desetine miliona dolara iz državnih i federalnih fondova, izvijestio je Voice of San Diego. Ovi „bot“ studenti koriste lažna imena i predaju domaće zadatke generisane pomoću AI, kako bi ostali „upisani“ dovoljno dugo da dobiju pomoć. U 2024. godini, oko 25% prijava na koledže u Kaliforniji bilo je od botova.
Neka AI pita baku i deku za zdravlje
Startap InTouch koristi AI kako bi zvao vaše roditelje ili bake i deke, provjerio kako su i vodio razgovor ako vi nemate vremena, izvijestio je 404 Madia. AI se može podstaći da govori i postavlja pitanja o određenim temama. Nakon razgovora, osoba koja je organizovala poziv dobija AI-generisani rezime razgovora i bilješke o raspoloženju sagovornika. „Ideja da AI zove vašu usamljenu rodbinu jer vi ne možete ili ne želite je distopijska, uvredljiva i posebno neljudska – još više nego druge AI kreacije“, piše Džouef Koks.
Izvor: Forbes
