Az első riport —“The Dark Side of AI: Large-Scale Scam Campaigns Made Possible by Generative AI”, lefordítva “Az MI sötét oldala: kiterjedt csalókampányok, amelyeket a generatív MI tett lehetővé” — demonstrálja, hogy a bűnözők a jövőben miként használhatják fel a ChatGPT-hez hasonló technológiát, hogy minimális technikai tudással hajtsanak végre tömeges csalásokat.
Azonban a második, “Cybercriminals Can’t Agree on GPTs,” - “A kiberbűnözők nem tudnak megegyezni a GPT-k terén” – című riport azt találta, hogy a mesterséges intelligencia lehetőségei ellenére a ChatGPT-hez hasonló nagy nyelvi modellek (LLM-ek) elfogadása és felhasználása helyett egyes kiberbűnözők szkeptikusak, sőt, aggódnak az MI felhasználása kapcsán.
Az MI sötét oldala
Egy egyszerű e-kereskedelmi sablon és LLM-eszközök (például GPT-4) segítségével a Sophos képes volt egy teljesen működőképes webhelyet felépíteni MI által generált képekkel, hanganyagokkal és termékleírásokkal, valamint egy hamis Facebook bejelentkezési szekcióval és hamis fizetési oldallal, amellyel el lehetne lopni a felhasználók bejelentkezési adatait és hitelkártyaadatait.
A weboldal létrehozásához és működtetéséhez minimális technikai tudásra volt szükség, ráadásul ugyanazzal az eszközzel a Sophos több száz hasonló webhelyet tudott létrehozni percek alatt egyetlen gombnyomással.
“Természetes – és várható –, hogy a bűnözők az automatizálás új technológiájához fordulnak. Annak idejében a spam emailek létrehozása kritikus lépés volt a csalástechnológiában, mert megváltoztatta a játékteret.
Az új MI-k kapcsán ugyanez várható; ha létezik olyan MI technológia, amely teljes körű, automatizált fenyegetéseket tud létrehozni, az emberek végül használni fogják. Már láthattuk a generatív MI elemek integrálását a klasszikus csalásokba, mint például az MI által generált szövegeket vagy fényképeket, amelyek az áldozatok csapdába csalásához készültek.
“Azonban az általunk végzett kutatás egyik oka az volt, hogy megelőzzük a bűnözőket. Azáltal, hogy a bűnözők által által jelenleg használt eszközöknél fejlettebb rendszert hozunk létre a csaló weboldalak tömeges generálására, egyedülálló lehetőségünk nyílik arra, hogy elemezzük a fenyegetést és felkészüljünk rá, mielőtt az elterjedne.” - mondta Ben Gelman, a Sophos senior adattudósa.
A kiberbűnözők nem tudnak megegyezni a GPT-k terén
A támadók MI iránti hozzáállásának kutatása során a Sophos több jelentős darkwebes fórumot vizsgált meg az LLM-mel kapcsolatos értekezések kapcsán. Míg úgy tűnik, hogy a kiberbűnözők MI használata a kezdeti szakaszban jár, a fenyegetések mögött álló “threat actorok” a darkweben diskurzusokat folytatnak a benne rejlő social engineering lehetőségek kapcsán. A Sophos már tanúja volt annak, hogy románc-alapú kriptocsalásokban használták az MI-t.
“Noha a ChatGPT megjelenése óta jelentős aggodalomra ad okot az MI-vel és az LLM-ekkel való visszaélés a kiberbűnözők által, kutatásunk azt találta, hogy a fenyegetések mögött állók eddig inkább szkeptikusak, mint lelkesek. Az általunk vizsgált darkwebes fórumok közül 4-ből 2-n csak 100 MI-vel kapcsolatos bejegyzést találtunk. Összehasonlításként: a kriptovalutával kapcsolatban 1000 posztot találtunk ugyanebben az időszakban.
“Láttunk néhány kiberbűnözőt, akik LLM-ek segítségével malwareket (kártékony programokat) vagy támadóeszközöket próbáltak létrehozni, de az eredmények kezdetlegesek voltak és gyakran ütköztek szkepticizmusba a többi felhasználó részéről.
Egy esetben az egyik threat actor, aki buzgón be akarta mutatni a ChatGPT-ben rejlő lehetőségeket, akaratlanul is jelentős információkat árult el valódi személyazonosságáról. Még számos gondolatfuttatást is találtunk az MI társadalomra gyakorolt potenciális negatív hatásairól és használatának etikai vonatkozásáról. Más szóval, legalábbis egyelőre úgy tűnik, a kiberbűnözők ugyanazokat a vitákat folytatják az LLM-ekről, mint mi, többiek.” - mondta Christopher Budd, a Sophos X-Ops kutatási igazgatója.
