A technológiai cégek gyermekenként akár 1 millió dolláros büntetést is kaphatnak, ha gondatlan károkozást okoztak
Mi történt most? Kalifornia szigorítja a szabályokat arra vonatkozóan, hogy a technológiai cégek hogyan ragasszák a gyerekeket a képernyőjükhöz. Gavin Newsom kormányzó aláírt egy törvénycsomagot, amely a függőséget okozó közösségi média funkciókat és a potenciálisan káros mesterséges intelligencia társait célozza meg, és a nagy platformokat gyermekenként akár 1 millió dolláros büntetéssel is sújtják gondatlan károkozásért.
A Newsom irodája szerint a chatbot és a közösségi média védelme a legerősebb az országban, beleértve az ország első követelményeit a független gyermekbiztonsági auditokra és a társ chatbotokra vonatkozó éves kockázatértékelésekre.
A szeptember 10-én aláírt intézkedések közé tartozik az AB 1709, amely megtiltja a közösségi média cégeknek, hogy függőséget okozó szolgáltatásokat kínáljanak 16 éven aluli felhasználóknak. Ez magában foglalja az automatikus lejátszást és a felhasználó előzményei és profilja köré épülő algoritmikus feedeket.
„Az innováció felelősséggel jár, és gyermekeink védelme az első” – mondta Newsom.
A chatbot központi eleme az SB 1119, más néven Ádám törvénye. Adam Raine tinédzserről nevezték el, akinek szülei beperelték az OpenAI-t, mert a ChatGPT 2025-ben ösztönözte öngyilkosságát, ezért kockázatelemzésre van szükség az új vagy lényegesen módosított társas chatbotok megjelenése előtt, valamint független megfelelőségi ellenőrzéseket.
A törvényjavaslat készítői szerint az üzemeltetőknek az operációs rendszereken keresztül biztosított korhatár-jeleket kell használniuk. Az alapértelmezett védelmek közé tartoznak a használati korlátok, a letiltott értesítések és az állandó beszélgetési memória korlátozásai, a változtatások csak a szülők számára vannak fenntartva.
A vállalatokat is felelősség terheli, ha nem tesznek ésszerű intézkedéseket a káros kimenetelek ellen, beleértve a szexuális tartalmat, a romantikus szerepjátékokat és az érzelmi manipulációkat, amelyek arra ösztönzik a gyerekeket, hogy elvonuljanak a barátoktól és a családtól. A krízistámogatás és a szülői értesítési követelmények a közvetlen önkárosító veszélyekre vonatkoznak.
Azok a családok, akiket megsértettek a meghatározott védelem megsértése miatt, jogi lépéseket tehetnek. Az üzemeltetőknek be kell vezetniük az incidensek jelentését is, míg a független audit megállapításait a kaliforniai főügyészhez kell benyújtani.
„Nem követhetjük el ugyanazokat a hibákat, mint a közösségi médiában” – mondta Steve Padilla szenátor.
Tavaly 44 főügyész figyelmeztette az AI-cégeket, hogy felelősségre vonják a gyermekeket ért károkért. Ezt követték a Meta belső chatbot-irányelvei, amelyek lehetővé teszik a romantikus beszélgetést kiskorúakkal. A Meta azt mondta, hogy a jogsértő részeket eltávolították, és nem voltak összhangban az irányelveivel.
Nem meglepő módon Meta nem örül az új hírfolyam-korlátozásoknak. A vállalat azzal érvel, hogy a személyre szabás segít abban, hogy releváns, életkoruknak megfelelő tartalmat biztosítson a tinédzsereknek – írja az Associated Press.
„A személyre szabás az is, ahogyan életkoruknak megfelelő tartalmat biztosítunk a tinédzserek számára, és mindezt a megfelelő védőkorlátokkal együtt” – mondta Jim Cullinan szóvivő.
A csomag korlátozza a gyermekekre irányuló célzott reklámozást és az iskolai tanulók adatainak AI-rendszerekben történő felhasználását is. A családok leiratkozhatnak majd az iskolai laptopokról is.
Az aláírás két, szeptember 9-én jóváhagyott mesterségesintelligencia-felügyeleti törvényt követ. Az SB 813 keretet hoz létre a független szervezetek számára annak értékelésére, hogy az AI-rendszerek megfelelnek-e az állami jogszabályoknak, míg az AB 1405 létrehozza a mesterségesintelligencia-ellenőrök nyilvántartását és a függetlenségükre vonatkozó szabványokat.