JetBrains lanserar Mellum2 – en Mixture-of-Experts AI-modell

Vad har hänt

JetBrains har offentliggjort Mellum2, en stor språkmodell (LLM) med 12B aktiva parametrar. Modellen är byggd på en Mixture-of-Experts (MoE) arkitektur, vilket innebär att den består av flera mindre "expertmodeller" som aktiveras selektivt beroende på uppgiften. Den tränades med token och är tillgänglig via Hugging Face.

Varför det spelar roll

MoE-arkitekturen i Mellum2 syftar till att leverera hög prestanda med färre beräkningsresurser jämfört med traditionella stora modeller med liknande kapacitet. Detta möjliggör effektivare användning i applikationer där snabb inferens och optimerad resursanvändning är avgörande. Tillgängligheten via Hugging Face främjar bredare adoption och utveckling.

Vem påverkas

Utvecklare och forskare som arbetar med storskaliga språkmodeller kommer att påverkas direkt, då Mellum2 erbjuder ett nytt alternativ för AI-baserade applikationer. Företag som JetBrains kan dra nytta av att integrera modellen i sina egna produkter och tjänster.

EU-status

Modellen är tillgänglig globalt via Hugging Face, vilket innebär att den är direkt tillgänglig för användare inom EU. Eftersom det är en öppen modell påverkas den initialt inte av specifika EU-regleringar som AI Act, men framtida användning kan kräva efterlevnad beroende på tillämpningens riskklassificering.

Mer att veta

Mellum2 är en del av JetBrains fortsatta satsning på AI-forskning och utveckling, vilket också omfattar deras integration av AI i utvecklingsverktyg.