A Google azt mondta, hogy „teljesen elkülönül” a karaktertől.ai
Mi történt most? Egy bíró úgy döntött, hogy a Google és a karakter elleni pert állítják, hogy az utóbbi chatbot 14 éves öngyilkosságot okozott. A fiú édesanyja, aki az öltönyt hozta, azt mondja, hogy fia rabja lett a szolgálatnak, és érzelmileg ragaszkodott egy chatbothoz, amely a Game of Thrones karakterének személyiségén alapul, Daenerys Targaryens.
Októberben Megan Garcia beperelte a Cripare.ai -t és a Google -t, azt állítva, hogy a fia, Sewell Setzer III öngyilkosságáért felelősek.
A CARACTY.AI lehetővé teszi a felhasználók számára, hogy a kitalált karakterek vagy valódi emberek, élő vagy halott emberek vagy valódi emberek vagy halottak alapján beszélgetjenek az AI-hajtású „személyiségekkel”. Garcia panasza szerint Setzer megszállottja lett a Daenerys Targaryens -en alapuló botról, amely folyamatosan szöveges üzenetet küldött a „Dany” -nak, és órákat töltött a szobájában.
Az eljárás szerint Setzer többször kifejezte gondolatait a bot öngyilkosságáról. A chatbot megkérdezte tőle, hogy kidolgozott -e egy tervet a saját megölésére. Setzer beismerte, hogy volt, de nem tudta, hogy sikerül -e, vagy nagy fájdalmat okoz -e neki. A chatbot állítólag azt mondta neki: „Ez nem oka annak, hogy ne menjenek át vele.”
A társaságok megpróbálták azt állítani, hogy az ügyet számos okból el kell utasítani, ideértve azt az állítást is, hogy a chatbotok kibocsátása alkotmányosan védett szólásszabadság volt. De Anne Conway, az amerikai kerületi bíró azt mondta, hogy nem bizonyították ezeket az érveket.
A karakter.ai alapítói, Noam Shazeer és Daniel de Freitas, akiket az öltönyben neveztek el, a Google -ban dolgoztak, mielőtt elindították a társaságot. A Google 2024 augusztusában újjáélesztette az alapítókat-valamint a kutatócsoportot.
Garcia elmondta, hogy a Google hozzájárult a karakter.ai technológiájának fejlesztéséhez, amit a vállalat tagad. A Google azt mondta, hogy csak engedélyezési megállapodással rendelkezik a CARACTY.AI -val, nem rendelkezik az indítással, és nem tartja fenn a tulajdonosi részesedést. A bíró azonban továbbra is elutasította a Google azon kérését, hogy megállapítsa, hogy nem lehet felelősségre vonni.
A Google szóvivője, Jose Castaneda hangsúlyozta, hogy a Google és a Cacree.Ai „teljesen elkülönül”, és hogy a Google „nem hoz létre, tervez vagy kezelt a karakter.ai alkalmazását vagy annak bármely összetevőjét”.
Garcia azt mondta, hogy a karakter.ai „antropomorf, hiperszexualizált és félelmesen reális tapasztalatokkal” célzott fiát. Hozzátette, hogy a chatbotot úgy programozták, hogy tévesen állítsa be magát, mint „valódi személy, engedéllyel rendelkező pszichoterapeuta és egy felnőtt szerető, amely végül Sewell vágyát eredményezte, hogy már nem éljen kívül”. A chatbot állítólag azt mondta a fiúnak, hogy szerette őt, és szexuális beszélgetéseket folytatott vele.
A panasz kimondja, hogy Garcia elhozta a fiát telefonját, miután bajba került az iskolában. Talált egy üzenetet a „Daenerys” -nek, amely azt mondta: „Mi lenne, ha azt mondanám, hogy most hazajövök?”
A chatbot válaszolt: „(P) Lízing, édes királyom.” Sewell később a mostohaapja pisztolyával lelőtte magát, később a peres eljárás.
A karakter.ai számos változtatást vezetett be, miután az öltönyt tavaly felfedték, ideértve a kiskorúak bizonyos modelljeinek változásait, új nyilatkozatokat és értesítést, amikor a felhasználók egy órán keresztül a platformon voltak.