Kimi K3 er frit tilgængelig: 2,8 billioner parametre til download
Quartz (27. juli): Moonshot AI har frigivet Kimi K3 med 2,8 billioner parametre under en modificeret MIT-licens. Kun 16 af 896 eksperter aktiveres pr. token, hvilket giver cirka 50 milliarder aktive parametre. Adgangsbarrieren er hardware: 1,4 TB hurtig hukommelse i firbit-præcision.
Kort fortalt
- Moonshot AI frigav mandag 27. juli modelvægtene til Kimi K3 under en modificeret MIT-licens. Med 2,8 billioner parametre er det den største open-weight-model, der er offentliggjort
- Arkitekturen er sparsom: kun 16 af 896 eksperter aktiveres pr. token, hvilket giver cirka 50 milliarder aktive parametre. Kontekstvinduet er på en million tokens
- Adgangsbarrieren er hardware. I firbit-præcision fylder vægtene cirka 1,4 terabyte hurtig hukommelse, og omkring 5,6 TB ved 16 bit, før der er indlæst en eneste samtale
- I blindtests valgte udviklere modellen foran førende amerikanske modeller på frontend-kodeopgaver, men den placerede sig under Anthropics Fable 5 og OpenAIs GPT-5.6 Sol i den samlede rangering
Hvad "open weights" betyder, og hvad det ikke betyder
Når en model frigives med åbne vægte, betyder det, at selve den trænede model kan hentes ned og køres på hardware, man selv kontrollerer. Det er ikke det samme som open source i klassisk forstand, for træningsdata og træningsopskrift følger sjældent med. Men det er den afgørende forskel i praksis: data behøver ikke forlade jeres eget miljø.
Kimi K3 er nu den største model, der er frigivet på den måde. Moonshot AI offentliggjorde vægtene på Hugging Face under en modificeret MIT-licens, sammen med 96 vægt-shards, konfigurationsfiler og vejledning til udrulning.
Modellen er sparsomt aktiveret: selvom den samlet har 2,8 billioner parametre, aktiveres kun 16 ud af 896 eksperter for hvert token, altså omkring 50 milliarder parametre ad gangen. Det gør den langt billigere at køre, end det samlede tal antyder. Kontekstvinduet er på en million tokens.
Regnestykket der stopper de fleste
Frit tilgængelig er ikke det samme som praktisk tilgængelig. I firbit-kvantisering fylder vægtene cirka 1,4 terabyte hurtig hukommelse. Ved 16 bit er tallet omkring 5,6 TB. Og det er før, der er indlæst en eneste samtale i kontekstvinduet.
Det er ikke noget, man kører på en server i et teknikrum. Realistisk set kræver det enten en betydelig GPU-klynge eller en hosting-leverandør, der har bygget den. Flere udbydere tilbød hosting fra dag ét, men så er man tilbage ved at sende sine data til en tredjepart, og så er den oprindelige fordel væk.
På kvalitet er billedet blandet. I blindtests valgte udviklere modellen foran førende amerikanske modeller på frontend-kodeopgaver, hvilket er bemærkelsesværdigt for en frit tilgængelig model. I den samlede rangering placerede den sig under Anthropics Fable 5 og OpenAIs GPT-5.6 Sol.
🇩🇰 Hvad betyder det for danske SMV'er?
Den nære konklusion er nem: det her er ikke noget, I skal gøre. 1,4 terabyte hurtig hukommelse er ikke en SMV-investering, og hvis I lejer det hos en hosting-udbyder, har I byttet den ene tredjepart ud med en anden.
Men retningen er værd at holde øje med, netop af GDPR-grunde. Selv-hosting er den eneste opsætning, hvor jeres data beviseligt ikke forlader jeres eget miljø, og hvert år bliver modellerne, der kan køre lokalt, bedre. De mindre open-weight-modeller, som faktisk kan køre på en enkelt server, arver arkitekturen fra de store med et par års forsinkelse.
Én ting bør nævnes, fordi den ellers bliver overset: at en model er udviklet i Kina, har ingen betydning for jeres databeskyttelse, hvis I kører vægtene på egen hardware. Så forlader data aldrig maskinen. Bruger I derimod Moonshots API eller app, gælder præcis de samme spørgsmål som ved enhver anden udenlandsk leverandør: hvor ligger data, hvem er databehandler, og findes der en aftale.
Se hvordan de store sprogmodeller klarer sig hos os i kategorien LLM-modeller, herunder vores anmeldelse af DeepSeek, hvor netop det spørgsmål behandles udførligt.
Vil du læse den oprindelige kilde?
Læs hos QuartzVi linker altid til den oprindelige kilde, så du kan verificere selv.
