Állítólag az AWS havonta milliárdokat vásárol Nvidia GB300-as racket, és raktárban tárolja azokat.
Sötét AI felhők: Mint minden más hiperskálázó, aki hajlandó feláldozni mindent azért, hogy az AI-t játékmódosító lehetőséggé változtassa, az Amazon is merész mutatványokat hajt végre mind pénzügyeivel, mind hardverével. Egy új jelentés szerint a cég több GPU-t vásárol, mint amennyi ereje van a futtatáshoz.
Állítólag az Amazon havonta több milliárd dollár értékű Nvidia állványt vesz fel, bár egyes oldalak még nem állnak készen rájuk, és még nincs áram az AI-gyorsítók táplálására. A Business Insider által látott belső e-mailek szerint az Amazon készpénzmilliárdokat hajlandó előre lekötni, amennyiben új hardverkapacitást tud időben biztosítani.
Az üzenetek az Amazon Early Rack Receipt folyamatát írják le, amelyen keresztül az AWS körülbelül 5 milliárd dollár értékű Nvidia GB300 szerverrecket várt csak augusztusban, és a belátható jövőben minden hónapban körülbelül 3 milliárd dollárral több várható. Az Amazon a végső üzembe helyezési fázis előtt „az AI érvelésének korszakára épített” szervereket készít.
Egyes egyesült államokbeli AWS-létesítmények nem rendelkeznek elegendő energiával a kiszolgálók telepítéséhez és bekapcsolásához, ami azt jelenti, hogy a költséges hardvert „közvetítő” raktárakban tárolják, amíg a végső adatközpont-helyszín elkészül. Az e-mailekben az Amazon egyik csapata panaszkodott, hogy nincs egyértelmű előrejelzés a cég által havonta beszerzett GPU-k tényleges telepítésére.
Az Amazon energiakapacitásának hiánya a „sötét GPU-k” néven ismert növekvő jelenség része. Az adatközpont- és felhőipari óriások minden hardvert felhalmoznak, amit csak tudnak, de ezek nagy része lényegében a polcokon gyűjti a port, míg az IT-ipar többi része a hulladékkal marad.
A sötét GPU-probléma pénzügyi nyomást is növel az adatközponti vállalkozásokra. Az Amazon szabad cash flow-ja 2023 óta először fordult negatívba a második negyedévben, és a vállalat arra számít, hogy ez egy ideig így is marad, a beruházási ráfordítások pedig idén elérik a 220 milliárd dollárt.
Az Amazon minden más hiperskálázónál többet költ új AI-képességek és adatközpont-kapacitás kiépítésére, és ennek érdekében megváltoztatja szokásos üzleti gyakorlatát. A mesterséges intelligencia őrülete előtt az AWS csak akkor vette át az állványok tulajdonjogát, amikor azok elkészültek és egy adatközpontba szállították őket. A Jeff Bezos által alapított cég most milliárdokat hajlandó előre költeni, hogy több mesterségesintelligencia-állványt biztosítson az ellátási lánc korábbi szakaszaiban.
Az Amazon szóvivője megvédte a megközelítést, és „legjobb üzleti gyakorlatnak” nevezte azt a gyakorlatot, hogy a kész állványokat raktárban tárolják. A vállalat végül jelentős pénzügyi megtérülést vár a mesterséges intelligencia infrastruktúra hatalmas kiépítésétől, mivel a mesterséges intelligencia egyszeri lehetőség az életben, amelyet egyetlen IT-cég sem engedhet meg magának. Andy Jassy, az Amazon vezérigazgatója mondta, hogy az AWS már átesett valami hasonlón.