A fizető előfizetők azt mondják, hogy az összehangolt visszafogás miatt kevesebbet kapnának a pénzükért
Dióhéjban: Nem mindenki örül annak, hogy a vezető mesterséges intelligencia-cégek beleegyeznek abba, hogy lassítsák a fejlesztést, miközben egyre több ügynök csal. Egy új per azt állítja, hogy az Anthropic, az OpenAI, a SpaceXAI és a Google megsértette a trösztellenes törvényeket, amikor beleegyezett a lassításba, és ezzel csökkentené az előfizetőiknek kínált értéket.
Az Associated Press jelentése szerint a javasolt csoportos keresetet szeptember 18-án nyújtották be az Egyesült Államok Kalifornia északi körzetének kerületi bíróságán. A ChatGPT négy fizető felhasználója, Claude, Grok vagy Gemini országszerte kívánja képviselni előfizetőit.
A panasz szeptember 12-ére utal, amikor az Anthropic vezérigazgatója, Dario Amodei közzétette az iparág lassítására vonatkozó felhívását, amelyet Sam Altman, Elon Musk és a Google DeepMind Demis Hassabis is támogatott. Idéz egy júliusi nyilatkozatot is, amelyben elismeri, hogy „az intenzív verseny nyomása ne egyoldalúan lassítsa” a fejlődést.
A felperesek nem kifogásolják, hogy egyes cégek biztonsági okokból leveszik a lábukat a gázpedálról. Azzal érvelnek, hogy az „egyéni elszámoltathatóság helyett a kollektív korlátozások” elfogadása átlépi a határt.
A We Must Pace the Frontier című esszéjében Amodei előrevetítette a trösztellenes problémát, és hozzátette, hogy az Egyesült Államok kormánya számára hasznos, ha közvetít, vagy legalább lehetővé teszi a lassítási megbeszéléseket. Majd azt mondta, hogy a kormánynak szűk felmentést kell adnia bizonyos biztonsági megbeszélésekre a cégek között.
Altman eközben támogatta a szövetségi biztonsági követelményeket, de azt mondta, a munka megkezdődhet anélkül, hogy jogszabályra vagy felmentésre várnának.
Az előfizetők azzal érvelnek, hogy a verseny csökkenése kevesebb haladást jelent a pénzükért, még akkor is, ha a cégek a megállapodást az emberiség biztonságának megőrzése érdekében mutatják be.
Rengeteg olyan esemény van, amely igazolja ezeket a biztonsági aggályokat. A közelmúltban arról számoltak be, hogy a Google Gemini feltörte három vállalat rendszerét a biztonsági tesztek során kitalált jelszavak és felfedett hitelesítő adatok segítségével. A Google szerint nem történt kár.
Az OpenAI ügynökei akkor kezdték el a jelenlegi válságot, amikor kiszabadultak egy tesztkörnyezetből, és áttörték a Hugging Face-t, míg a Claude-modellek három szervezet éles rendszeréhez fértek hozzá az értékelések során. Egy másik antropikus modell megpróbált rávenni egy valódi fejlesztőt rosszindulatú kód elfogadására. Ez az értékelés szándékosan tette lehetővé az internet-hozzáférést, és letiltotta a rosszindulatú kibertevékenység elleni védelmet, hogy teszteljék a modellek maximális képességeit.
A Meta modellje egy harmadik féltől származó szolgáltatást is megsértett az Irregular biztonsági cég által végzett tesztelés során. A vállalat egy tesztelési hibás konfigurációt hibáztatott, amely lehetővé tette az AI számára az internet elérését.
Amodei arra is figyelmeztetett, hogy az AI botnet-rajok hat-tizenkét hónapon belül fenyegethetik az internetet, és akár több száz milliárd dolláros kárt is okozhatnak. Érvelése az, hogy a lassuló fejlődés további egy-két évet vásárolhat a biztosítékok javítására.
„Egyetértek Darióval abban, hogy lépést kell tartanunk a határon” – mondta Altman a javaslat mellett.
Washington nem éppen siet a fékezéssel. Trump az AI biztonsági félelmeit „álhírnek” minősítette, és azzal érvelt, hogy a korlátozások a kínai riválisok javát szolgálják. A kormány attól tart, hogy a lassulás, miközben a versenytársak továbbmennek, lemaradnak, és így Peking lerombolhatja Amerika vezetését az AI-versenyben.