A rosszindulatú program megmutatja, hogy az LLM-ek hogyan lépnek át a támadók termelékenységét növelő eszközből a támadó infrastruktúrába
Kristálygömb: A Cisco Talos kutatói találtak egy Windows kártevő-eszközt, amely több nagy nyelvi modellt használ annak eldöntésére, hogy mit tegyen egy feltört gépen. Felfedezése a mesterséges intelligencia-kompatibilis rosszindulatú programok még mindig korlátozott számú, de növekvő csoportjára mutat rá, amely túllép a kódgeneráláson és az adathalászat támogatásán.
A CLOSEDQUORUM nevű rosszindulatú program a következő művelet kiválasztása előtt a DeepSeek, a Qwen, a Mistral és a Google Gemini segítségével ellenőrzi. Továbbra is működhet, ha az egyik szolgáltatás nem elérhető, mert lekérdezheti a többit. A felfedezés lehetővé teszi, hogy a védők korai pillantást vethessenek arra, hogyan építhetnek a támadók autonómabb és rugalmasabb irányítási és irányítási rendszereket. A Cisco Talos azt mondta, hogy az eszköznek nincs beépített elérési útja az emberi operátor számára, hogy parancsokat adhasson ki, miután fut.
A kutatók szerint a CLOSEDQUORUM a bejelentkezési adatok és a kriptovaluta ellopására készült. Kapcsolatokat azonosítottak a rosszindulatú programok és a 2025-ig tartó kiberbűnözési fórumtevékenység között, amely hitelkártya-csalásokkal járt. Talos nem tudta megállapítani, hogy ki készítette az eszközt, és azt sem, hogy valódi célpontok ellen használták-e.
A felfedezés egy új Cisco Talos projekten keresztül történt, amelynek célja, hogy segítse a biztonsági kutatókat az AI-szolgáltatásokon alapuló rosszindulatú programok nyomon követésében. A Cognitive Artifact Intelligence Research Network (CAIRN) nevű nyílt forráskódú keretrendszer a mesterséges intelligencia használatához kapcsolódó technikai nyomokat keres a rosszindulatú programok mintáiban.
„Az alapötlet az, hogy a mesterséges intelligencia integrációjának vannak olyan maradványai, mint az ujjlenyomatok” – mondta a Wirednek Ryan Fetterman, a Cisco Talos biztonsági kutatója, a CAIRN fejlesztésének vezetője. „Ez egy jelzést ad nekünk, amellyel nyomon követhetjük ezeket a mintákat, osztályozhatjuk őket, és megnézhetjük, mi történik.”
A CAIRN megvizsgálja az AI-integrációkhoz kapcsolódó metaadatokat és egyéb attribútumokat, majd a mintáknak azonosítót ad, amellyel a kutatók összehasonlíthatják azokat más ismert rosszindulatú programokkal. A rendszer a hasonló tulajdonságokkal rendelkező műtermékeket csoportosítja, így segít az elemzőknek azonosítani azokat a mintákat, amelyek szerint a támadók hogyan adnak hozzá LLM-eket a rosszindulatú szoftverekhez és a parancs- és vezérlési műveletekhez.
A legfontosabb különbség a CLOSEDQUORUM-tól az LLM-ek használata a vezérlőrendszer részeként. Korábbi, mesterséges intelligenciával kapcsolatos rosszindulatú programok esetében gyakran előfordult, hogy támadók modelleket használtak kódírásra, adathalász tartalom létrehozására vagy a kampány egyes részeinek automatizálására. A CLOSEDQUORUM ehelyett modellválaszokat használ a műveletek irányítására, miután elérte a célrendszert.
Matt Olney, a Cisco Talos fenyegetésfelderítési részlegének vezető igazgatója elmondta, hogy az elmozdulás azt mutatja, hogy a mesterséges intelligencia egy támogató eszközről a támadási infrastruktúra összetevőjévé vált.
– Kezdetben mindenki termelékenységi eszköznek tekintette az AI-t, igaz? – mondta Olney. „Most azt látjuk, hogy működőképessé válik. Tehát a támadók számára lehetővé teszi számukra, hogy több kampányt futtassanak, több helyet találjanak, több és különböző számítógépet kezeljenek, mert van egy nagyon intelligens doboz a háttérben, amely kérdéseket tehet fel és válaszokat adhat.”
Talos azután fejlesztette ki a CAIRN-t, hogy Fetterman áttekintette az AI-t használó rosszindulatú programok nyilvánosan dokumentált példáit. Az egyik korai eset a LAMEHUG volt, a rosszindulatú program, amelyet az ukrán CERT-UA egy adathalász kampányhoz kapcsolt 2025 júliusában. Az implantátum a Hugging Face API-n keresztül kapcsolatba lépett a Qwen2.5-Coder-32B-Instruct-tal, hogy parancsokat kapjon.
„Akkoriban azt gondoltam: „Hú, ez csodálatos. Az AI-kompatibilis rosszindulatú programok nagy fellendülése lesz, és a táj teljesen megváltozik” – mondta Fetterman.
De amikor körülbelül egy évvel később Fetterman áttekintette a terepet, a vártnál sokkal kevesebb dokumentált esetet talált. Nagyjából kilenc megnevezett rosszindulatú programcsaládot azonosított, köztük néhány kutatási bizonyítékot is.
A CAIRN azóta a minták szélesebb körét tárta fel. Fetterman elmondta, hogy a keretrendszer fejlesztése és tesztelése során mintegy 20 további példát talált az AI-ba integrált rosszindulatú programokra. A tevékenység nagyrészt kísérleti jellegű, mondta, de a további minták azt mutatják, hogy a nyilvános jelentések nem rögzítették a fejlesztés alatt álló mesterséges intelligencia-kompatibilis kártevők teljes skáláját.
„Tehát bár szerintem ez még nagyrészt kísérleti jellegű a támadók számára, a táj sokkal összetettebb és változatosabb, mint ahogyan azt nyilvánosan közölték” – mondta Fetterman. „Sok minden történik odakint, és ez értékes korai jelzést ad arra vonatkozóan, hogy mi fog történni.”