A javasolt rendszer a potenciális nemzetbiztonsági vonatkozású AI-incidensekre összpontosítana
Röviden: Az Egyesült Államok és Kína nem arról híres, hogy együttműködik, de az Egyesült Államok együttműködni szeretne riválisával egy biztonsági értesítési mechanizmus bevezetésén az MI-incidensekre. A hír néhány nappal azután jelent meg, hogy egy mesterséges intelligencia hallucinációja majdnem háborút indított el a két ország között.
Scott Bessent pénzügyminiszter elmondta, hogy a javaslat a hétvégi megbeszélések részét képezi a héten a Fehér Házban Donald Trump elnök és Hszi Csin-ping kínai elnökkel folytatott tárgyalásai előtt.
Bessent elmondta, hogy a két ország megbeszélést folytatott egy új amerikai-kínai mesterségesintelligencia-párbeszéd létrehozásáról, beleértve egy olyan rendszert is, amely értesíti egymást a mesterséges intelligencia okozta eseményekről, amelyeknek nemzetbiztonsági vonatkozásai lehetnek.
„Közös víziót akarunk a közös célokról és a közös fenyegetésekről” – mondta Bessent. „Úgy gondoljuk, hogy minden határokon átnyúló tevékenységhez hasonlóan nagyon fontos az átláthatatlantól a nagyobb átláthatóság felé való elmozdulás a világ első számú és második számú AI-hatalmai között.”
A javasolt értesítési rendszer működésének részletei továbbra is tisztázatlanok, beleértve azt is, hogy mely ügynökségek kezelnék azt, és milyen események váltanának ki riasztást.
„Az a tény, hogy mindkét fél megállapodott a párbeszéd folytatásában, jelentőségteljes” – mondta George Chen, a The Asia Group tanácsadó cég digitális gyakorlatának partnere és elnöke az AP-n keresztül. „A kezdeti eredmény – a mesterséges intelligencia kockázatának bejelentési mechanizmusa – precedenst teremt, amelyet más országok is követhetnek.”
Külön-külön amerikai és kínai biztonsági szakértők külön katonai forródrót létrehozását szorgalmazták, hogy megakadályozzák a véletlen vagy jogosulatlan mesterségesintelligencia-tevékenységek szándékos támadással való összetévesztését, bár egyik kormány sem támogatta nyilvánosan ezt a javaslatot.
Trump többször is visszaszorította a mesterséges intelligencia fejlődésének lassítását, és „álhírnek” nevezte a biztonsági aggályokat. Az elnök úgy véli, hogy az Egyesült Államoknak gazdasági és biztonsági okokból is Kína előtt kell maradnia a mesterséges intelligencia versenyében.
A szélhámos mesterséges intelligencia ügynökeivel kapcsolatos incidensek uralják a híreket a közelmúltban. Az év elején azonban egy potenciálisan még veszélyesebb eseményre került sor a katonaság bevonásával.
Források szerint az Egyesült Államok idén tavasszal közel állt ahhoz, hogy elfogjon egy kínai hajót a Közel-Keleten, miután egy mesterséges intelligencia által támogatott hírszerzési jelentés hamisan azt sugallta, hogy egy nukleáris fegyverprogramhoz szállított anyagokat. A követelés egy pontatlan chatbot-válaszból indult ki.
Két forrás szerint fegyveres katonák készülődtek a hajó fedélzetére, a katonai repülőgépek pedig már felszálltak, amikor a tisztviselők alaposabban átnézték a jelentést, és megállapították, hogy az AI legalább egy részét létrehozta.