Az elméleti botnet több száz milliárd dolláros kárt okozhat
Egy forró krumpli: Ismét figyelmeztetés érkezett a katasztrófát eredményező mesterséges intelligencia fejlesztésére az egyik embertől, aki ezeket a modelleket építi. Az antropikus főnök, Dario Amodei szerint egy mesterséges intelligencia által hajtott botnet-raj átveheti az egész internetet, és ez a forgatókönyv hat-tizenkét hónapon belül valósággá válhat. A vezérigazgató az új AI-modellek fejlesztésének lassítását is kérte.
Amodei hosszas nyílt levélben írta figyelmeztetését. Azt mondta, hogy elméleti botnet-raja kevesebb mint egy éven belül megérkezhet az AI-képességek gyorsuló üteme miatt.
Amodei szerint ez a botnet több száz milliárd dolláros kárt okozhat, és a kár mértéke innentől tovább nő, ha a mesterséges intelligencia erősebbé válik a szükséges védőkorlátok nélkül.
A vezérigazgató hozzáteszi, hogy a mesterséges intelligencia leállításának vagy lassításának ötlete már 2023-ban felmerült, de úgy véli, hogy akkor ennek nem sok értelme volt. Amodei szerint a fejlesztés lelassulása egy-két plusz évet hozhat, mire a modellek elérik a képességek kritikus szintjét, így a vállalatoknak több idejük lesz az összehangolás előrehaladására, és csökkenti annak kockázatát, hogy valami súlyosan elromlik.
Amodei figyelmeztetése akkor érkezik, amikor a mesterséges intelligencia miatti félelmek a tetőfokára rúgnak. A szélhámos ügynökök többszöri incidense után Jacob Coxon volt antropikus kutató arra figyelmeztetett, hogy a mesterséges intelligencia faj az emberi kihalással végződhet.
Amodei felhívását, hogy lassítsa a mesterséges intelligencia fejlesztésének ütemét, Elon Musk és az OpenAI vezérigazgatója, Sam Altman is támogatja. „Régóta kongattam a vészharangot az MI-n” – mondta Musk, kiemelve egy 2014-es bejegyzést, amelyben azt mondta: „Nagyon óvatosnak kell lennünk az AI-val. Lehetséges, hogy veszélyesebb, mint az atomfegyverek.”
– Elon Musk (@elonmusk) 2026. szeptember 13
„Egyetértek Darióval abban, hogy lépést kell tartanunk a határon” – mondta Altman. „Nagyszerű ötlet elkötelezni magunkat amellett, hogy független értékelők legyenek alkalmazottaihoz hasonló hozzáféréssel, és mi is ezt fogjuk tenni. Hamarosan több megosztani valónk lesz.”
– Sam Altman (@sama) 2026. szeptember 12
Evan Hubinger, az Anthropic igazítástudományi vezetője hozzátette a hangját a vitához. Egyetértett Coxon értékelésével, és azt mondta, hogy több mint 10% az esélye annak, hogy a mesterséges intelligencia minden embert kiirt a következő évtizedben.
A digitális veszélyeken túl a közelmúltban arról számoltak be, hogy egy Iránhoz köthető csoport az Anthropic’s Claude-ot használta a katonai felderítés segítésére és célzási ajánlások készítésére az amerikai haditengerészeti erők számára a Közel-Keleten. Azt is felfedezték, hogy a huthi lázadók a Claude Code-ot használták ballisztikus rakéta-irányító rendszerek kódolására.
Az Anthropic azt is közölte, hogy azonosította a feltételezett államilag támogatott kutatók lehetséges kísérleteit arra, hogy a Claude AI modelljét biológiai fegyverek fejlesztésére használják fel. A felhasználókat kizárták, miután ismételt próbálkozások kiváltották Claude beépített biztonsági protokolljait.
Az ezekkel az incidensekkel kapcsolatos aggodalmak és a szuperintelligencia fejlesztése iránti verseny miatt Bernie Sanders szenátor javasolta a mesterséges szuperintelligencia betiltását. Ha törvénybe lép, akár 20 év börtönbüntetést is kaphatnak azok, akik megsértik a feltételeit: hasonló büntetés, mint az atomfegyverek törvénytelen fejlesztéséért járó büntetés.
– Bernie Sanders szenátor (@SenSanders) 2026. szeptember 12
A mesterséges intelligencia fejlődésének lassítására való felszólítás nem túl hasznos, ha ezt senki sem teszi meg. A cégek attól tartanak, hogy ha ők lassítják a tempójukat, mások pedig nem, lemaradnak. Hasonlóképpen, az országok azt mondják, hogy nem lesznek képesek felvenni a versenyt a riválisokkal, ha korlátokat szabnak a fejlődésnek. Természetesen nem számít, ha mindannyian meghalunk.