Nemrégiben számoltunk be arról, hogy Elon Musk és az általa alapított xAI csapata mindössze 19 nap alatt szerelt össze egy 100 ezer H200 Blackwell GPU-ból álló szuperklasztert. Jensen Huang, az Nvidia vezérigazgatója elmondta, hogy korábban még sosem látott ehhez foghatót, de több szakmabeli is megdöbbent a Colossus névre keresztelt AI-szuperszámítógép méretein.
A napokban Musk jelezte, hogy tovább bővíti a rendszert, és belátható időn belül megduplázza a klaszterhez használt GPU-k számát, ami azt jelenti, hogy hamarosan egy 200 ezer kártyából álló szuperszámítógép jön létre. Tekintve, hogy az xAI csapata korábban is rekordidő alatt építette meg a Colossust, ez a terv sem tűnik lehetetlennek.
A mérnököknek legutóbb 19 nap kellett a klaszter felállításához - beleértve a GPU-kat befogadó létesítmény megépítését, valamint a megfelelő hűtési rendszerek telepítését -, miközben az ilyen méretű projektek jellemzően évekig tartanak.
A szuperklasztert Muskék vélhetően a Grok 3-hoz hasonló mesterséges intelligencia modellek és más chatbotok képzésére használnák, ezzel új szintre emelve a technológiát. Musk már most felvetette egy 300 ezer GPU-s rendszer gondolatát, de először inkább várjuk ki, hogyan alakul a 200 ezres cél.
Soon to become a 200k H100/H200 training cluster in a single building https://t.co/2YvdmqXp1W
— Elon Musk (@elonmusk) October 28, 2024