Together AI:s kodagent överträffar konkurrenter i prestandatester
Together AI har publicerat nya benchmarkresultat som visar att deras kodagent uppvisar högre prestanda och lägre kostnad jämfört med etablerade lösningar som TensorRT-LLM och Claude Opus.
Vad har hänt
Together AI meddelade den 1 maj 2024 att deras AI-kodagent uppvisar överlägsenhet i storskaliga prestandatester. Resultaten indikerar 31 % fler transaktioner per sekund (TPS) än TensorRT-LLM och en två gånger snabbare Time To First Token (TTFT) vid mättnad. Dessutom rapporteras en 76 % lägre kostnad jämfört med Claude Opus 4.6.
Snabbfakta
| Fler transaktioner per sekund (TPS) än TensorRT-LLM | 31% |
|---|---|
| Snabbare Time To First Token (TTFT) vid mättnad | 2 gånger |
| Lägre kostnad än Claude Opus 4.6 | 76% |
| Publiceringsdatum | 1 maj 2024 |
”Real-world inference benchmarks for coding agents: 31% more TPS than TensorRT-LLM, 2× better TTFT at saturation, and 76% lower cost than Claude Opus 4.6.”
Varför det spelar roll
Dessa prestandaförbättringar är betydande för utvecklingen av AI-drivna kodningsverktyg och agenter. Högre TPS och snabbare TTFT leder till effektivare och snabbare exekvering av kodgenerering och -analys, vilket direkt påverkar utvecklares produktivitet. Den lägre kostnaden kan även bredda tillgängligheten för avancerade kodassistenter.
Vem påverkas
Utvecklare, företag som satsar på AI-utveckling och mjukvaruutvecklingsorganisationer påverkas direkt. För utvecklare innebär det potential för snabbare och mer kostnadseffektiva AI-assistenter. Molntjänstleverantörer och AI-modellutvecklare kan använda dessa insikter för att optimera sina egna erbjudanden.
EU-status
Ej relevant för EU-status.
Mer att veta
Betydelsen ligger i de kvantifierbara prestandaökningarna. Dessa mätvärden ger en konkret grund för att bedöma AI-agenters effektivitet, särskilt under hög belastning. Resultaten kommer från Together AI:s egen blogg, vilket kan innebära ett visst bias.
Snabba svar om den här nyheten
Vad har hänt?
När hände det?
Varför spelar det roll?
Vilka bolag berörs?
Länken öppnar i nytt fönster och leder till utgivarens egen sida.
Källan har spårats automatiskt från utgivaren via Aheadlines signalkedja.