Az amerikai hadsereg majdnem megtámadt egy kínai hajót, miután egy chatbot hamisan azt állította, hogy nukleáris fegyvereket szállított
Az elvitel: Az AI-fejlesztők figyelmeztetései széles körű vitát váltottak ki arról, hogy a technológia okozhat-e emberi kihalást, és ha igen, hogyan. Míg a vita nagy része a szélhámos mesterségesintelligencia-incidensekre összpontosult, a közel-keleti események azt sugallják, hogy a hallucináló mesterségesintelligencia-eszközök által vezérelt katonai akció lehet a közvetlenebb veszély.
Az amerikai hadsereghez köthető források a közelmúltban azt mondták a CNN-nek, hogy az Egyesült Államok idén tavasszal majdnem elfogott egy kínai hajót a Közel-Keleten egy mesterséges intelligencia által támogatott jelentésből származó hamis információ alapján. A jelentés egy pontatlan chatbot-válaszon alapult, amely megállapította, hogy a hajó egy nukleáris fegyverprogramhoz szükséges anyagokat szállított.
Két forrás szerint fegyveres katonai személyzet készült felszállni a hajóra, miközben katonai repülőgépek már a levegőben voltak, mire a tisztviselők közelebbről megvizsgálták a jelentést, és felfedezték, hogy az legalább részben mesterséges intelligencia által generált.
Az egyik forrás teljesen hamisnak minősítette az értesülést, mondván, hogy majdnem háború kezdődött a két atomhatalom között. Hogy valójában mi volt a hajón, az továbbra sem világos.
Egy elemző megkért egy meg nem nevezett chatbotot, hogy mérje fel a hajó jegyzékében szereplő hírszerzési információkat, amelyek a Csendes-óceáni Special Operations Commandtól származnak. Még mindig nem világos, hogy a chatbot kereskedelmi vagy állami tulajdonban volt-e.
Egy tisztviselő, aki ismeri az amerikai hadsereg mesterséges intelligencia telepítését, azt mondta a CNN-nek, hogy egy kormányzati chatbotot valószínűleg egy kereskedelmi termékből vontak volna ki vagy klónoztak volna, és kormányzati hírszerzési adatokkal egészítették volna ki. Akárhogy is, az elemző mesterséges intelligencia segítségével is írt egy titkosszolgálati jelentést a hibás válasz alapján – amely a katonaságot fokozott készültségbe helyezte.
Az incidens az amerikai hadsereg azon törekvését mutatja be, hogy felgyorsítsa a mesterséges intelligencia elterjedését az iráni háború közepette. Januárban Pete Hegseth védelmi miniszter bejelentette, hogy a mesterséges intelligencia agresszívabb felkarolására és a bürokratikus akadályok felszámolására irányul, figyelmeztetve arra, hogy a technológia lemaradása átengedheti a kezdeményezést Kínának és más amerikai ellenfeleknek. Eközben az elemzőkre állítólag egyre nagyobb nyomás nehezedik, hogy a mesterséges intelligencia segítségével gyorsabban terjesszék a jelentéseket.
A katonaság elsősorban az AI-t használta hírszerzési elemzésekre, logisztikára és célzásra. Az Anthropic Claude-ja például központi szerepet játszott az Egyesült Államok nyitócsapásában az iráni háborúban, beleértve azt is, amely megölte Irán legfelsőbb vezetőjét, Ali Khamenei ajatollahot. De az elavult információkon alapuló mesterséges intelligencia célzása is hozzájárulhatott egy minab-i iskola elleni támadáshoz, amelyben 168 ember, főként gyerekek haltak meg – ez a támadás, amelyet széles körben az Egyesült Államokra rónak fel, és az ENSZ által támogatott szakértők lehetséges háborús bűnnek minősítették.
Amerikai tisztviselők azt mondták a CNN-nek, hogy a kínai hajóval kapcsolatos incidens nem az egyetlen alkalom, amikor a hadsereg mesterséges intelligencia hallucinációiba ütközik.