Anthropic maakt Claude geschikt voor andere chips en bedreigt Nvidia

Anthropic zegt dat het zijn Claude Mythos-model in drie dagen kan optimaliseren om op andere AI-chips te draaien. Dat vermindert het voordeel van Nvidia en biedt kansen voor AMD.

Wat er gebeurde

Anthropic liet zien dat het Claude Mythos-previewmodel in drie dagen volledig kon porten en optimaliseren om op AMD's MI355 GPUs te draaien. Het bedrijf zegt dat Claude 100% van de kernels portte of schreef. Een kernel is de code die een GPU vertelt hoe een berekening moet worden uitgevoerd.

Voorheen zou dit volgens het bedrijf normaal gesproken een team van zo’n twaalf engineers zes tot twaalf maanden kosten om nieuwe AI-accelerators te onboarden. Het doel van Anthropic is een "fungible compute pool" te maken. Daarmee moet het binnen enkele dagen modellen op elke chip kunnen laten draaien, of het nu gaat om GPUs van NVDA of AMD, of om custom chips zoals Amazon Trainium of Google's TPU.

NVDA bouwde een groot voordeel met zijn CUDA-softwareplatform en het uitgebreide CUDA-X-ecosysteem. Dat maakte het voor ontwikkelaars makkelijker om NVDA-chips te gebruiken en zorgde dat veel AI-code op CUDA werd geschreven. NVDA gaf ook gratis GPUs en training aan universiteiten en onderzoeksinstellingen om het gebruik van CUDA te stimuleren.

Het artikel wijst erop dat deze ontwikkeling gunstig kan zijn voor AMD. AMD's Helios-systeem kost volgens het artikel ongeveer $20 miljard per gigawatt, tegen ongeveer $40 miljard per gigawatt voor NVDA's Vera Rubin-platform. Als het porten van modellen naar andere chips eenvoudiger wordt, kan AMD marktaandeel winnen vanwege zijn kostenvoordeel.

Tegelijk staat NVDA niet zonder sterke punten. Het bedrijf heeft volgens het artikel nog steeds het beste AI-infrastructuurplatform, een sterk ecosysteem en veel van het schaarse high-bandwidth memory ingeslagen. Ook noemde het artikel reputatieschade voor NVDA na het veronderstelde gedrag van de nu voormalige CEO in een zaak rond een vermeende Chinese spion.

Het artikel concludeert dat dit nieuws AMD een belangrijke kans geeft. The Motley Fool noemt AMD de belangrijkste AI-semiconductor-aandelenkeuze op basis van deze ontwikkeling. Dat is een meningsuiting van de bron.