Amazon stopt de ontwikkeling van inferentie AI Inference Chips om zich te concentreren op Trainium Training Chips

Amazon is gestopt met de ontwikkeling van zijn Inferentia AI -chips en zal zich in plaats daarvan concentreren op Trainium -chips die zijn ontworpen voor het trainen van AI -modellen.Het bedrijf gelooft dat deze verschuiving een sterker pad biedt om te concurreren met AI -chipleider Nvidia.

Sinds de aankondiging van zijn toegang tot de AI -chipmarkt in 2018, heeft Amazon AWS conclusie -chips ontwikkeld voor inferentie en trainiumchips voor het trainen van AI -modellen.

Rahul Kulkarni, directeur van Compute bij Amazon AWS, verklaarde: “De twee productlijnen zullen samenkomen.We zullen ons richten op Trainium om zowel inferentie als trainingsprestaties te leveren. ”

Inferentie is ontworpen om kleinere berekeningen uit te voeren tegen lagere kosten.Omdat generatieve AI echter blijft evolueren, vereisen zowel training als gevolgtrekking in toenemende mate een grotere rekencapaciteit.De voordelen van het gebruik van afzonderlijke chips voor deze taken nemen af.

Trainium biedt daarentegen een grotere geheugencapaciteit en ondersteunt een breder scala aan gegevensformaten.Het bevat ook mechanismen voor snelle berekening en communicatie bij het hanteren van massale datasets over meerdere servers.

Tijdens zijn jaarlijkse technische conferentie in Las Vegas kondigde Amazon de lancering van de Trainium2 Chip aan.Het bedrijf onthulde ook plannen om de Trainium3 -chip in de tweede helft van 2025 uit te brengen. Trainium3 zal worden vervaardigd met behulp van een geavanceerd 3 NM -proces, met de computerprestaties die naar verwachting dat van Trainium2 verdubbelen.

Amazon wil de dominantie van Nvidia op de AI -chipmarkt betwisten, waar Nvidia momenteel ongeveer 90% van het wereldwijde aandeel bezit.Amazon heeft Trainium2 agressief gepromoot tot cloudklanten en benadrukt de lagere operationele kosten in vergelijking met NVIDIA -producten.

Apple heeft aangekondigd dat het Trainium2 -chips zal gebruiken voor zijn AI -ontwikkeling.Bovendien verwerft AI Startup Anthropic, dat een investering van $ 8 miljard van Amazon heeft ontvangen, honderdduizenden Trainium2-chips overgenomen om te helpen bij het ontwikkelen van zijn generatieve AI-modellen.