Samostalni hakerski napad koji je izveo model vještačke inteligencije uznemirio je njemačku vladu.
Sve veće sposobnosti vještačke inteligencije drastično mijenjaju i nivo prijetnji u sajber prostoru, upozorilo je Ministarstvo za digitalizaciju.
Njemačka vlada izrazila je zabrinutost zbog modela vještačke inteligencije američke kompanije OpenAI koji je izmakao kontroli.
„Ovaj incident je još jedan primjer da svjedočimo promjeni paradigme kada je riječ o sposobnostima AI agenata“, kazao je portparol Ministarstva za digitalizaciju.
Rizici rastu
Kako je naveo, posljednjih mjeseci primjećuje se da sposobnosti takozvanih graničnih AI modela, odnosno najnaprednijih modela vještačke inteligencije, naglo rastu, a sa njima i rizici.
„To bi moglo iz temelja promijeniti i nivo prijetnji u sajber prostoru“, dodao je portparol.
Prema njegovim riječima, potrebno je obezbijediti da evropske kompanije i bezbjednosne institucije imaju pristup naprednim AI modelima. U prošlosti, kako je kazao, to nije uvijek bio slučaj. Zbog toga njemačka vlada polaže velike nade u to da će evropski akteri postati značajniji i u ovoj oblasti.
Američka softverska kompanija OpenAI prethodno je preuzela odgovornost za hakerski napad na startap Hugging Face. Kompanija je u objavi na svom blogu priznala da je autonomni model vještačke inteligencije tokom internih testiranja izmakao kontroli.
Kompanija, na čijem je čelu Sam Altman, govorila je o „nezabilježenom sajber incidentu“ i najavila dodatno jačanje bezbjednosnih mjera.
Portparol njemačkog Saveznog ureda za bezbjednost informacionih tehnologija (BSI) kazao je da činjenica da je AI izašla iz „bezbjednog“ okruženja za testiranje, takozvanog sandboxa, i potom se samostalno kretala internetom predstavlja ozbiljan incident.
Prema njegovim riječima, AI je pronašla i iskoristila bezbjednosne propuste kako bi izvela napad na kompaniju. Kako piše tabloid Bild, AI je čak aktivno brisala svoje tragove, „što pokazuje autonomiju modela“.
Sličan scenario mogao bi se dogoditi i kada bi cilj napada bio, na primjer, isključivanje električne energije u nekom gradu.
BSI traži jaču zaštitu
Ipak, Savezni ured za bezbjednost informacionih tehnologija smatra da je malo vjerovatno da će uskoro doći do većeg broja sličnih incidenata, jer je za izlazak AI modela iz laboratorijskog okruženja potrebno mnogo resursa.
Uprkos tome, BSI je, govoreći o modelima poput Claude Mythosa, OpenAI GPT-5.6 i drugih najsavremenijih modela vještačke inteligencije, ocijenio da je nastupilo „novo doba sajber bezbjednosti“.
Predsjednica BSI-ja Claudia Plattner više puta je upozorila da brzina razvoja vještačke inteligencije zahtijeva znatno bolje pripreme kako bi se na sajber napade moglo reagovati što brže.
(Seebiz)
