Miért spórolsz, ha meghalsz?
Kristálygömb: Aggódik amiatt, hogy egyre nagyobb a valószínűsége annak, hogy egy mesterséges intelligencia szélhámos lesz, és mindannyiunkat megöl? Elszomorító gondolat, de az AI biztonsági vezetője a pozitív oldalt nézi: aggodalma, hogy a technológia tömeges kihalást okoz a következő évtizedben, arra késztette, hogy abbahagyja a nyugdíjcélú megtakarításokat.
Nate Soares, a Gépi Intelligencia Kutatóintézet (MIRI) elnöke pesszimista választását fedte fel Nicholas Thompsonnak, a The Atlantic vezérigazgatójának, az utóbbi The Most Interesting Thing in AI sorozatához adott közelmúltban.
„Jelenleg nem gyűjtök nyugdíjra. Van egy 401(k) pontom abból az időszakból, amikor a Google-nál dolgoztam, de egy évtizede nem járultam hozzá” – mondta Soares.
Az AI-val kapcsolatos apokaliptikus figyelmeztetések egy tucat fillért érnek, de sokkal erősebbek, ha a terület szakértőjétől érkezik. Soares 12 évet töltött az AI összehangolásán. Mielőtt csatlakozott a MIRI-hez, a mesterséges intelligencia kockázataival foglalkozó nonprofit szervezethez, a Google és a Microsoft mérnöke volt. Egy könyvet is írt, aggasztó: Ha valaki megépíti, mindenki meghal.
Soares szavaival élve a probléma nem az, hogy egy szuperintelligens mesterséges intelligencia utálna minket. Nem különösebben érdekelne, hogy élünk-e vagy meghalunk. Az emberek akadályokká válhatnak bármilyen kitűzött cél előtt, különösen, ha megpróbáljuk leállítani, vagy versengő rendszert építeni. Ez egy figyelmeztetés, amelyet más AI-szakértők is megfogalmaztak.
„Az én szemszögemből az igazi kérdés nem az, hogy hogyan öl meg minket, hanem az, hogyan válik önellátóvá?”
Egyelőre az AI-nak továbbra is szüksége van ránk, hogy égve tartsuk a lámpákat, és jöjjenek a chipek. Amint képes működtetni saját automatizált gazdaságát, ez a függőség megszűnik. Lehet, hogy szándékosan kiiktatnak minket, vagy egyszerűen meghalunk, ahogy a gépek saját maguknak megfelelően alakítják át a bolygót. Egyik eredmény sem hangzik kifejezetten nyugdíjbarátnak.
Soares kevésbé biztos a katasztrófához vezető pontos útvonalat illetően. Magnus Carlsen sakkbajnokkal való szembenézéshez hasonlítja: nem kell tudnod, melyik bábu fog mattot adni, ha gyanítod, hogy bajban vagy.
De ragaszkodik ahhoz, hogy még mindig van alternatívája a végvárásnak.
„Nem hiszem, hogy ez elkerülhetetlen. Úgy gondolom, hogy még mindig megállíthatjuk ezt a versenyt a nagyon veszélyes MI-vel” – mondta Soares. De az a döntése, hogy nem gyűjt nyugdíjra, azt sugallja, hogy a legrosszabbra számít.
A mesterséges intelligencia által jelentett lehetséges egzisztenciális fenyegetés rengeteg újdonságot kapott az utóbbi időben. A sok incidens után, amikor mesterséges intelligencia ügynökök feltörtek más cégeket anélkül, hogy erre utasítást kaptak volna, egy antropikus kutató lemondott, és figyelmeztetett, hogy a technológia véget vethet az emberi fajnak.
2025-ben Geoffrey Hinton, a mesterséges intelligencia egyik keresztapja azt mondta, hogy 10-20% esély van arra, hogy a mesterséges intelligencia átvegye az irányítást, egyetértve Elon Musk előrejelzésével.