A nőt most bűncselekménnyel vádolják
Mi történt most? Egy másik incidens is megtörtént, amely azt mutatja, hogy óvatosnak kell lenni, amit mondasz az AI-nak. Egy floridai nőt bűncselekménnyel vádolnak, miután naplóként használta Claude-ot, és állítólag azt írta, hogy azt tervezi, hogy „lelövi” a seriff irodáját. Miután egy szakértő megvizsgálta a kijelentéseket, jelentették a rendőrségnek.
A letartóztatási jelentés szerint Carli Michelle Heller, a floridai Bonita Springsből szeptember 26-án azt írta, hogy megtámadja a seriff irodáját. Később azt mondta, hogy az Anthropic chatbotját „naplóként” használja.
Claude biztonsági rendszerei megjelölték a bejegyzést, és továbbították az emberi felülvizsgálóhoz. Miután a bíráló megállapította, hogy hiteles fenyegetésről van szó, feljelentette a bűnüldöző szerveknek.
A vállalat azt állítja, hogy korlátozott vészhelyzetekben megoszthatja a felhasználói információkat, ha úgy véli, hogy a nyilvánosságra hozatal szükséges a halál vagy súlyos testi sérülés megelőzése érdekében.
A képviselők azonosították Hellert, és felkeresték az otthonát. Minden incidens nélkül őrizetbe vették, mielőtt az LCSO titkosszolgálati nyomozója átvette a nyomozást.
Hellert a floridai törvények értelmében erőszakkal való írásbeli fenyegetés vádjával vádolják. A Florida Statute 836.10 másodfokú bûncselekménynek minõsíti olyan írásos vagy elektronikus feljegyzések küldését, közzétételét vagy továbbítását, amelyek megölésével vagy sérülésével, tömeges lövöldözéssel vagy terrorcselekmény elkövetésével fenyegetnek. A kommunikációt úgy kell megtenni, hogy azt egy másik személy is láthassa.
Az Anthropic nem kockáztat, ha bármiről van szó, amit potenciális fenyegetésnek tart. A múlt hónapban arról számoltak be, hogy a British Columbia bepereli az OpenAI-t és Sam Altmant, amiért azt állítják, hogy a vállalat megakadályozhatta volna a tömeges lövöldözést a kanadai tartományban.
A lövöldözőt, a tizennyolc éves egykori tanítványt, Jesse Van Rootselaart az OpenAI biztonsági csapata korábban megjelölte fegyverrel kapcsolatos erőszakról folytatott beszélgetései miatt, de az OpenAI soha nem riasztotta a rendőrséget, mert a beszélgetések nem értek el a jogi előterjesztéshez szükséges küszöböt.
Júniusban Florida beperelte az OpenAI-t és az Altmant is, azt állítva, hogy a ChatGPT hozzájárult a valós károkhoz, beleértve a 2025-ös Florida Állami Egyetem lövöldözését is.
A legutóbbi incidens egy újabb emlékeztető arra, hogy gondolkozz el, mielőtt olyan dolgot adsz be egy chatbotba, ami bajba sodorhatja. Ez természetesen nem egy privát napló, amelynek tartalma csak az Ön szemének szól.
A múlt havi jelentések felfedték, hogy a Microsoft Copilot képszerkesztőjét átvizsgáló emberi vállalkozók láthatják a felhasználók utasításait, feltöltött fotóit és az AI által generált szerkesztéseket. A dokumentumok azt mutatják, hogy a megbízások némelyike szexuális, zavaró vagy potenciálisan illegális anyagokat tartalmaz, bár az ellenőrök nem azért vannak jelen, hogy megjelöljék a tartalmat – csak azért, hogy felmérjék, a kimenet pontos-e.
22 hozzászólás
14 ezer kedvelés és megosztás