Egy AI-feladat kérdésenként 0,30 dollárról 0,0004 dollárra nőtt másfél év alatt
A lényeg: Az AI-modellek egyre olcsóbban használhatók olyan ütemben, amely átformálja a fejlett szoftverek piacát. Az Epoch AI kutatócég jelentése szerint az AI-teljesítmény adott szintjének elérésének költsége negyedévente közel 50%-kal, azaz évente körülbelül 13-szor csökkent. Ez gyorsabb csökkenést jelent, mint a lítium-ion akkumulátorok, a DNS-szekvenálás és a számítástechnikai hardver költséggörbéi.
Az AI-rendszereket építő vagy vásárló cégek számára a változtatás több alkalmas modellt tehet elérhetővé a mindennapi használatra. Ez megnehezítheti a mesterséges intelligencia fejlesztői számára az árképzési hatalmuk megtartását. Az Epoch jelentése megvizsgálja azoknak a modelleknek a költségeit, amelyek elérik a meghatározott teljesítményszintet nehéz viszonyítási alapokon.
Az elemzés nem méri minden mesterséges intelligencia termék vagy feladat átlagos árát. Ehelyett azt követi nyomon, hogy mennyibe kerül egy modell bizonyos színvonalon történő teljesítése.
Fő mérőszáma a GPQA Diamond, egy feleletválasztós teszt, amely tudományos tárgyakra kiterjedő, végzős szintű kérdéseket tartalmaz. Az Epoch AI nyomon követte a modellek költségeit, amelyek legalább 81,25%-ot értek el a benchmarkon.
Ez a megközelítés többet mér, mint azt, hogy a modellek javulnak-e: azt is nyomon követi, hogy mennyibe kerül egy bizonyos válaszminőség elérése. Lehet, hogy egy újabb modell pontosabb, de kisebb számítási teljesítményre vagy kevesebb tokenre is szüksége lehet ugyanazon feladat elvégzéséhez. A szolgáltatók az árakat is csökkenthetik, mivel hatékonyabb rendszereket telepítenek.
Az Epoch AI éles különbségre utal a legújabb OpenAI modellek között. A jelentés szerint a 2025 januárjában kiadott GPT o3 75%-os pontszámot ért el a GPQA Diamondon, kérdésenként 0,30 USD áron. Körülbelül másfél évvel később a GPT-5.6 Luna állítólag ugyanezt a pontszámot érhette el kérdésenként 0,0004 dollárért.
A különbség megmutatja, hogy az AI-költségek miért válnak a technológiai történet fontos részévé. A teljesítmény továbbra is számít, különösen a kódolás, a tudományos munka, a vállalati kutatás és az összetett ügynökök esetében. De a modellminőség önmagában már nem elég. A minőség biztosításának költsége ugyanolyan fontossá válik.
Az Epoch AI összehasonlította az AI közelmúltbeli költségcsökkenését számos jól ismert technológiai trenddel. A lítiumelemek költsége 1991 és 2024 között körülbelül százszorosára csökkent. A számítási költségek százmilliárdszorosára estek vissza nagyjából 60 év alatt, 1940-től kezdődően. A DNS-szekvenálás is sokkal olcsóbb lett, bár több mint két évtizedbe telt, mire a költséggörbe kialakult.
Az AI gyorsabban haladt, legalábbis az Epoch AI mérései alatt. A jelentés becslése szerint az AI-képesség költsége körülbelül négyszer gyorsabban esett, mint a DNS-szekvenálás, és 18-szor gyorsabban, mint a lítium akkumulátoroké.
Van okuk óvatosnak lenni ezekkel az összehasonlításokkal. A mesterséges intelligencia adatok 2023-ban kezdődnek, a korábbi számadatokat kutatások és extrapolált trendek alapján becsülték meg. Az összehasonlításban szereplő számítási adatok 2001-ben, míg a villamosenergia-adatok 1973-ban érnek véget. Az adatok tehát nem mutatják be az elmúlt két évtizedben a számítástechnika vagy az energia területén végzett minden jelentősebb fejlődést.
Az áresések sem egységesek minden típusú munka esetében. Az Epoch AI más benchmarkokat is megvizsgált, amelyek matematikával és sakkrejtvényekkel foglalkoztak, és megállapították, hogy az eredmények eltérőek voltak. Egyes feladatok folyamatos költségnövekedést mutattak. Mások hosszú szakaszokat mutattak kis változással, majd hirtelen hanyatlást.
A Frontier Math eredményei például alig változtak 2025 és 2026 között, mielőtt a költségek meredeken estek volna 2026 közepén. Ez azt sugallja, hogy nincs egyetlen mesterséges intelligencia költséggörbe, amely mindenféle érvelésre vonatkozna.
A jelentés azt is megállapította, hogy az árcsökkenés üteme lassulhat. Az általa követett öt referenciaérték között a költségek kezdetben negyedévente 66%-kal estek vissza. Két évvel később a csökkenés negyedévente 32%-ra lassult.
Ez még mindig gyors javulás. Ez azonban tükrözheti a következtetési költségek csökkentésének egyre nehezebbé válását, mivel az energia, az adatközponti kapacitás és a mesterséges intelligencia hardver drágábbá válik. A határmodellek futtatása nagy számítási teljesítményt igényel, és a szolgáltatók nem tudják teljesen elkerülni ezeket a fizikai költségeket.
Az Epoch AI felhívja a figyelmet a „benchmaxxing” kockázatára is, amelyben a fejlesztők úgy képezik ki a modelleket, hogy jól teljesítsenek a benchmarkokon anélkül, hogy a tágabb, valós munka során ugyanezt a hasznot hoznák. A cég néhány tesztben véletlenszerű elemeket használt, hogy ezt megnehezítse. Ennek ellenére az ilyen védelmek nélküli benchmarkok eredményei meredekebb költségcsökkentést mutattak, ami arra utal, hogy a benchmark-specifikus optimalizálás része lehet a képnek.
Az alacsonyabb árak több választási lehetőséget teremtenek az ügyfelek számára. Előfordulhat, hogy egy vállalatnak nem kell fizetnie a legújabb és legdrágább modellért, ha egy olcsóbb alternatíva hasonló eredményeket hoz a munkaterheléséhez. Ez nyomást gyakorolhat azokra a szolgáltatókra, akik sokat költenek határrendszerek kiépítésére.
De nem az ár az egyetlen ok, amiért a vállalatok AI-szolgáltatót választanak. A meglévő integrációk, biztonsági szabályzatok, felhasználói szokások és bizalom egyaránt számít. A modellváltás tesztelést, szoftvermódosítást, valamint az adatvédelem és a megbízhatóság új felülvizsgálatát igényelheti.
Ennek ellenére az Epoch AI megállapításai egy olyan piacra mutatnak rá, ahol az AI teljesítménye gyorsabban olcsóbbá válhat, mint sok ügyfél módosítani tudja terveit. A fejlesztők számára az lesz a kihívás, hogy olyan termékeket készítsenek, amelyek még akkor is hasznosak és nyereségesek maradnak, ha a mögöttük álló modellek olcsóbbak lesznek.