Claude nu tillgängligt på Azure med NVIDIA Blackwell Ultra-hårdvara
Anthropic:s Claude-modeller är nu allmänt tillgängliga via Microsoft Azure på NVIDIA:s GB300 Blackwell Ultra-hårdvara. Detta ger kunder direkt tillgång till Claude via Azure utan separat Anthropic-abonnemang.
Vad har hänt
Anthropic:s Claude-modeller har nått allmän tillgänglighet (General Availability, GA) i Microsoft Foundry på Azure. Detta sker med stöd av NVIDIA GB300 Blackwell Ultra NVL72-rack. Lanseringen innebär att företagskunder nu kan nå Claude direkt via sina Azure-faktureringar, inklusive Azure-nativ identitetshantering, nätverk och styrning, vilket eliminerar behovet av en separat Anthropic-prenumeration.
Snabbfakta
| Tillgänglighetsdatum | 29 juni 2024 |
|---|---|
| Hårdvara | NVIDIA GB300 Blackwell Ultra NVL72 |
| Snabbare token-generering (vs H100) | ~40% |
| Snabbare token-generering (vs B200) | ~15% |
| CPU:er per rack | 36 NVIDIA Grace (Arm) |
”Claude Sonnet on GB300 produces tokens 40% faster than H100 nodes and roughly 15% faster than B200 systems.”
”At 1-million-token context lengths, Azure reports inference latency drops up to 6x versus the previous H100 deployment.”
Varför det spelar roll
Tillgängligheten av Claude på Azure med Blackwell Ultra-hårdvara syftar till att dramatiskt förbättra prestandan för AI-inferens. Microsoft rapporterar att Claude Sonnet på GB300 genererar tokens 40% snabbare än på H100-noder och cirka 15% snabbare än B200-system när det gäller token-generering. Vid kontextlängder på 1 miljon tokens uppges latensen för inferens minska upp till sex gånger jämfört med tidigare H100-installationer.
Vem påverkas
Företag och utvecklare som använder Microsoft Azure påverkas främst, då de nu får tillgång till Claude-modeller med förbättrad prestanda och enklare integration. Användare som kräver hög prestanda och låg latens för stora AI-modeller, särskilt de med behov av långa kontextfönster, kan dra nytta av denna integration. NVIDIA och Anthropic gynnas av den bredare tillgängligheten av deras teknologier.
EU-status
Enligt källan sker denna lansering främst i USA. Tillgängligheten för EU-kunder via Azure Foundry kan variera och behöver bekräftas individuellt för organisationer baserade inom EU. EU:s AI-förordning kan komma att påverka hur företag använder och implementerar AI-modeller som Claude, beroende på modellernas klassificering och användningsområde.
Mer att veta
De prestandasiffror som Microsoft presenterar är leverantörsmätningar utförda i Microsofts egen miljö och har inte validerats oberoende. Användare bör förhålla sig kritiska till dessa siffror tills egna tester kan publiceras.
Snabba svar om den här nyheten
Vad har hänt?
När hände det?
Varför spelar det roll?
Vem påverkas?
Länken öppnar i nytt fönster och leder till utgivarens egen sida.
Källan har spårats automatiskt från utgivaren via Aheadlines signalkedja.