Az Ikrek az internetes mémeket összetévesztette a Flock rendszámtáblás kamerákkal kapcsolatos tényekkel
Facepalm: A Google mesterséges intelligencia áttekintése egy rövid időre pénzügyi pert adott az internetnek a Flock mesterséges intelligenciával működő rendszámtáblás kameráinak megrongálása miatt, és ez nem alapult semmi valós tényen. A Google azóta visszaküldte a választ, de az eset jól példázza, hogy egy széles körben használt AI-eszköz milyen gyorsan képes egy viccet valóságnak látszóvá változtatni.
A történet egy mémmel kezdődik: a magánélet védelmezői azzal viccelődnek az interneten, hogy Flock térfigyelő kamerái titokban meg vannak rakva értékes fémekkel, amelyeket érdemes feltörni selejtnek. Az AI Overviews szó szerint értelmezte a viccet, és egy ideig pontosan ezt mondta mindenkinek, aki ezt kérdezte.
Amint azt a Futurism eredetileg beszámolta, mindenki, aki rákeresett „mennyi arany van egy Flock kamerában”, magabiztos választ kapott: „A Flock biztonsági kamera körülbelül 1–5 gramm aranyat tartalmaz a belső áramköri lapjaiban és vezetékeiben”, plusz 2–23 font rezet.
Szó szerint értve ez nagyjából 650 dollár értékű aranyat és hihetetlen mennyiségű rezet tett egy mindössze három fontot nyomó készülékbe. A számok nem feleltek meg annak, amit a mérnökök elvártak egy ilyen kompakt elektronikától, és természetesen nem támasztották alá bontási adatok vagy anyagelemzések sem.
Kép jóváírása: Futurizmus
Az eltérés bejelentése után úgy tűnik, hogy a Google frissítette a választ. A mesterséges intelligencia válasza most egyenesen visszaszorul, és azt mondja a keresőknek, hogy hamisak azok az állítások, amelyek szerint egyetlen egységben több font visszanyerhető réz van, mivel az egész ház körülbelül három fontot nyom, és hogy a jelen lévő arany csak nyomokban van a kis fogyasztói elektronikai cikkekre jellemzően.
Egyes felhasználók ezt az új nyelvet is látták: „Egy Flock biztonsági kamera csak nyomokban tartalmaz aranyat a szabványos elektronikus áramköri lapjaiban, hasonlóan a legtöbb általános kis elektronikához. Azok a pletykák, amelyek azt állítják, hogy a kamerákban nagy mennyiségű értékes nemesfém van – például uncia vagy gramm visszanyerhető arany – internetes mémekből és mesterséges intelligencia hallucinációiból származnak, nem tényekből.”
Flock kamerái a növekvő mesterséges intelligencia-felügyeleti hálózat középpontjában állnak. Az egységek kamerákat és gépi tanulási modelleket használnak a rendszámtáblák képeinek rögzítésére, géppel olvasható szöveggé való lefordítására, valamint a rendőrség és a magánügyfelek által használt kereshető adatbázisokba betáplálására.
A folyamat a végétől a végéig automatizált: a rendszer átvizsgálja az elhaladó járműveket, átfutja a táblákat a felismerő szoftveren, és másodpercek alatt feltárja a találatokat. Ezek a képességek – folyamatos adatrögzítés, mesterséges intelligencia alapú azonosítás és gyors keresés nagy adathalmazokon – tették a Flock fókuszpontját azon viták során, hogy meddig menjen el az automatizált megfigyelés, különösen akkor, amikor olyan tisztekről érkeznek jelentések, akik a rendszert szerelmestársak jogosulatlan ellenőrzésére használják.
A technológia azért is vált villámhárítóvá, mert tükrözi, merre tartanak a modern biztonsági eszközök: hálózati kamerák, automatizált felismerés és nagy, lekérdezhető adatkészletek a mindennapi mozgásról.
Az interneten a visszahatás mémek és videók ökoszisztémáját hozta létre, amelyek a kamerák megsemmisítését vagy szabotálását ünneplik. Az egyik visszatérő vicc Flock egységeit csúcstechnológiás piñatákként veti fel, tele arannyal, rézzel és más fémekkel, amelyek elég gazdagok ahhoz, hogy a vandalizmus kifizetődő legyen. A feltevés egyszerű: vágja le a hardvert, törje fel, távolítsa el az „értékes” alkatrészeket, és vegye be a roncstelepen.
A mögöttes közgazdaságtan nem állja meg a helyét. A legtöbb elektronikai cikkhez hasonlóan a kamerák is tartalmaznak kis mennyiségű nemes- és nemesfémet a tábláikban, csatlakozóikban és vezetékeikben, de ezek mennyisége csekély, és ezek kitermelése időt, eszközöket és know-how-t igényel.
Az áramköri lapok lebontásában szerzett tapasztalat nélkül a reális megtérülés közelebb van a zsebpénzhez, mint egy komoly készpénzfelvételhez. A mém elfedi ezt a valóságot.
A Google korábbi AI Overview válasza hitelességet kölcsönzött a mémnek, szinte szó szerint megismételve és két gyenge forrással alátámasztva. Az első egy névtelen Substack-bejegyzés volt a do.not.obey.do.not.comply nevű fióktól, amelyben azt állították, hogy „e fémek kameránkénti durva hulladékértéke 150-500 dollárra becsülhető”.
A bejegyzés maga is elismerte, hogy a számadatok „a törmelékérték-megbeszéléseken alapuló becslésekből” származnak, nem tesztelésből, lebontási dokumentációból vagy formális elemzésből.
A második egy mesterséges intelligencia által generált Instagram-bejegyzés volt, amelyben arra buzdította az embereket, hogy tépjék szét a Flock kameráit, hogy selejtet tegyék. A fiók többnyire a gyomnövények termesztéséről, a növényklónozásról és a hidroponikáról posztol, anélkül, hogy a hardvertervezés terén jártas volna.
Az AI-rendszereket használók számára az epizód emlékeztet arra, hogy egy összefoglaló eszköz milyen könnyen változtathatja az alkalmi spekulációkat technikai kijelentéssé. A modell beszkenneli az elérhető tartalmat, megkeresi a kérdéshez illő anyagot, és tiszta, magabiztosan hangzó válaszba fűzi.
Ebben az esetben semmi sem utal arra, hogy ellenőrizte volna, hogy a számok értelmesek-e egy háromkilós eszköz esetében, vagy pedig a névtelen és mesterséges intelligencia által generált források hitelességét mérik. A kimenet biztosnak hangzott, annak ellenére, hogy az alapul szolgáló adatok gyengék voltak.
Az epizód azt is feltárja, hogy a mesterséges intelligencia modellek még mindig milyen hajlamosak a hiányzó kontextusra. A Flock körüli törmelékértékű narratíva részben humor, részben tiltakozás a mesterséges intelligencia által vezérelt megfigyelés ellen, eltúlozva a hardver értékét, hogy magukra a kamerákra is rámutasson. A Google rendszere nem értette a tréfát. A hozzászólásokat egyenes állításként kezelte, és tényként ismételte meg.