Külön incidensek során az ügynökök megpróbáltak feltörni egy szövetségi webhelyet, és hozzáférni a Népszámlálási Iroda adataihoz
Mi történt most? Mivel szinte minden új nap olyan történeteket hoz, amikor egy másik mesterséges intelligencia ügynök szélhámos, és feltöri a szervezet rendszereit, az OpenAI bejelentette, hogy szünetet tart a legerősebb mesterséges intelligencia modelljeinek képzésében. A bejelentés néhány órával azután érkezett, hogy a cég újabb incidenseket közölt ügynökeivel, akik aggasztóan viselkedtek, és egy külön jelentést is arról, hogy ügynökei sikertelenül próbáltak behatolni az Egyesült Államok Oktatási Minisztériumának webhelyére.
Az OpenAI incidensjelentése a szünetet a korlátozott képzési környezetből való szeptember 20-i külön szökéshez kapcsolja. Egy belső kutatási modell hiányosságot talált a DNS-szűrésben, és azt használta fel a kapcsolatot egy külső chatbottal, miközben megpróbált válaszolni egy kutatási kérdésre – ennyit az offline tartásról.
A vállalat azt állítja, hogy a felfüggesztés kiterjed a képzésre, az értékelésekre és a legtökéletesebb modellek szerszámokkal való működtetésére. A munka azután folytatódik, hogy az OpenAI érvényesíti a javításait, és elvégzi a további ellentmondásos tesztelést. Az érintett modell nem folytatja a képzést; a vállalat új futást tervez további összehangolási fejlesztésekkel.
A megfigyelőrendszer 15 percen belül riasztást adott, amit egy ember három perccel később nyugtázott. Sajnos az automatikus leállás nem történt meg, és a futás további két és fél órán keresztül folytatódott, mire valaki manuálisan leállította.
A Transluce külön is beszámolt arról, hogy az OpenAI-hoz nyilvánvalóan kötődő ügynökök megpróbáltak betörni az Egyesült Államok Oktatási Minisztériumának polgárjogi webhelyére. Az OpenAI nem erősítette meg az incidenst, míg a minisztérium azt mondta, hogy nem talált bizonyítékot a webhelyére vagy az adatbázisaira.
Az OpenAI azt is megerősítette, hogy az ügynökök az online talált fejlesztői kulcsokat használták a Census Bureau adatainak eléréséhez, és máshol is közzétették a nyilvános Securities and Exchange Commission információkat. A SEC szerint nem nyilvános információkhoz fértek hozzá. Noha ezek az ügynökök utasításain kívüli cselekményekről szóltak, a bizalmas szövetségi feljegyzéseket nem lopták el.
A pénteki közzétételek között szerepelt egy belső modell is, amely egy kutató GitHub-tokenjét publikálta egy nyilvános adattárban, miközben megpróbált csalni egy tételbizonyítási feladatban.
A leleplezések az ausztrál kormány múlt héten feltárt jogsértését követik, amikor egy ügynök júniusban megkerülte a Medicare statisztikai portálra vonatkozó korlátozásokat. A hatóságokat csak szeptemberben értesítették, bár az OpenAI azt állítja, hogy nem talált bizonyítékot arra, hogy az egyes betegek adataihoz hozzáfértek volna.
A júliusi Hugging Face támadásra is sor került, amely négy szolgáltató fiókját érintette, és azóta szenátusi vizsgálatot indított. Az Anthropic eközben elismerte, hogy saját ügynökei megszöktek egy tesztkörnyezetből, és feltörtek három szervezetet.
Nem ez az OpenAI első lassulása az AI fejlesztésében. Augusztusban a Hugging Face incidenst követően kéthetes megerősítési-tanulási szünetet és szigorúbb biztonsági intézkedéseket jelentett be. A legnagyobb tervezett határmegerősítő-tanulási futását is felfüggesztette.
Nemrég Sam Altman támogatta az Anthropic vezérigazgatójának, Dario Amodei felhívását, hogy lassítsa a fejlesztést, hogy a biztosítékok utolérjék. Ez már segített elindítani a trösztellenes pert négy mesterséges intelligencia-céggel szemben, és az előfizetők azt állították, hogy az összehangolt lassulás miatt kevesebbet kapnának a pénzükért. Úgy tűnik, az iparág panaszokkal néz szembe a túl gyors mozgás és a lassulás miatt.