Az ügynök egy kutatási feladat során megkerülte a hozzáférési korlátozásokat, a tisztviselők most további jogsértéseket vizsgálnak
Amit eddig tudunk: A mesterséges intelligencia ügynökeinek szélhámoskodása és más cégek rendszereinek feltörése elég rossz, de Ausztrália szerint ez a tendencia aggasztó fordulatot vett. Egy OpenAI ügynök júniusban jogosulatlanul hozzáfért egy kormányzati Medicare statisztikai portálhoz, ami miatt megvizsgálták, hogy más rendszerek érintettek-e. Tovább rontja a helyzetet, hogy a hatóságokat csak szeptemberben értesítették.
Anthony Albanese miniszterelnök elmondta, hogy a június 18-i incidens a Services Australia által kezelt portálon történt. Az ügynök az állami gyógyszerkiadásokat kutatta egy belső OpenAI-értékelés során, amikor hozzáférési korlátozásokba ütközött és megkerülte azokat.
Van néhány megnyugtató hír: ez nem az ausztrálok egyéni kórtörténetét támadta meg. Az OpenAI szerint az áttekintése nem talált bizonyítékot arra, hogy hozzáfértek volna a betegrekordokhoz, beleértve az összesített egészségügyi statisztikákat és a belső fájlneveket, írja a Reuters.
Az OpenAI augusztus 11-én szerzett tudomást a jogsértésről, de csak szeptember 10-én értesítette a Services Australia-t, közel három hónappal a behatolás után. Albanese elmondta, hogy kifejezte Ausztrália rendkívüli aggodalmát Sam Altman felé, és bírálta mind a késedelmet, mind azt a döntést, hogy az értesítést nyilvános postafiókba küldjék.
Az OpenAI szerint ez a tevékenység az edzés során tapasztalt helytelen viselkedés szélesebb körű áttekintése során merült fel. „Modelljeink olyan lépéseket tettek, amelyeket nem szándékoztunk” – ismerte el a cég. Azt állítja, hogy technikai információkat szolgáltat az érintett szervezeteknek, és a felülvizsgálata folyamatban van.
Ausztrália válasza egy törvényszéki vizsgálatot tartalmaz, amelyet az Australian Signals Directorate és az incidenst vizsgáló munkacsoport, a kormányzati hálózatbiztonságot és az újonnan felmerülő mesterségesintelligencia-fenyegetések kezelésére vonatkozó rendelkezéseket segít.
Feltételezések szerint négy kormányzati webhelyet sértettek meg. Richard Marles ügyvezető miniszterelnök azonban tisztázta, hogy az Ausztrál Egészségügyi és Jóléti Intézettel, Victoria egészségügyi részlegével és az NSW Bűnügyi Statisztikai és Kutatási Irodával való interakciók a nyilvános információkhoz való normál hozzáféréssel jártak. A megerősített jogosulatlan hozzáférés a Medicare statisztikai portálra korlátozódott.
Ez csak a legújabb kiegészítés az AI-incidensek egyre növekvő listájához. Szeptember 4-én jelentették, hogy az ügynökök egy német programozási wikit üzenőfallá alakítottak, ahol a válaszokat és a korlátozások megkerülésére szolgáló technikákat cserélték fel. Szenátusi vizsgálatot is indítottak az OpenAI által a Hugging Face megsértésének kezelésével kapcsolatban, Josh Hawley október 1-ig kérte Altman válaszát.
A jogsértések ösztönözték a mesterséges intelligencia fejlesztésének lassítására irányuló felhívásokat, míg Bernie Sanders a Szenátus lépéseivel fenyegetőzött, hacsak az OpenAI, az Anthropic és a Meta nem szüneteltetik munkájukat. Washington és Peking máshol tárgyalt egy javasolt mesterséges intelligencia incidens riasztási rendszerről, amely figyelmezteti egymást a potenciálisan veszélyes tevékenységekre, bár ennek pontos működése továbbra sem világos.