Roditelji jednog muškaraca iz Kanade nedavno su primili uznemirujući poziv. Nazvao ih jedan advokat te im rekao kako je njihov sin u automobilskoj nesreći ubio američkog diplomatu – završio je u zatvoru te mu je potreban novac za pravne troškove. Nakon toga advokat je predao telefon očajnom sinu koji im je objasnio situaciju u kojoj se nalazio, a kao i svi roditelji, oni su odlučili da mu pomognu te su mu poslali oko 15 hiljada dolara u bitcoinima.
Dobra vijest za roditelje jest da im sin nije izazvao saobraćajnu nesreću sa smrtnim posljedicama i nije završio u zatvoru, no loša je vijest da su ostali bez novca. Oni su, naime, nasjeli na novu vrstu prevare koju je omogućila vještačka inteligencija, odnosno alati bazirani na AI koji mogu klonirati glasove. Roditelji, dakle, uopšte nisu razgovarali sa svojim sinom, već je vještačka inteligencija uspjela da kreira glas koji je gotovo identičan onome njihova sina, piše Zimo.
-Novac je nestao. Nema osiguranja. Nema povratka. Nestao je, kazao je za medije sin prevarenog para Benjamin Perkin.
S postojećim alatima dovoljno je samo 30-ak sekundi zvučnog zapisa da vještačka inteligencija uspije prilično uspješno da klonira glas neke osobe. S obzirom na to da mnogi na Facebooku, Instagramu, TikToku i drugim mrežama često objavljuju videozapise, na mreži su javno dostupni brojni videozapisi iz kojih se može iskoristiti zvuk, odnosno glas za takvu vrstu prevara.
Dok je za takvo kloniranje glasa preko većine dostupnih alata potrebno, dakle, 30-ak sekundi zapisa, Microsoft je početkom godine predstavio vlastiti alat kojem su potrebne samo tri sekunde uzorka audiozapisa da na temelju njega klonira glas. Američka kompanija svoj alat nije učinila dostupnim javnosti upravo zbog potencijalnih rizika njegove zloupotrebe, kakvu smo vidjeli na primjeru roditelja Benjamina Perkina. Na takvu sloupotrebu upozorili su krajem januara iz ElevenLabsa, kompanija koja je razvila alat za kloniranje glasova, a nedugo nakon toga najavili su kako njihov alat VoiceLab više neće biti dostupan u besplatnoj verziji kako bi smanjili rastući broj prevara.
Izvor: Poslovni dnevnik
