--- title: "Små modeller på egen hardware: hvornår de er nok" url: "https://hurukan.com/da/blog/smaa-modeller-paa-egen-hardware" description: "Ikke alle opgaver kræver en frontiermodel hos andre. Små modeller med åbne vægte på egen hardware klarer mange smalle opgaver godt. Sådan ser du hvilke." --- # Små modeller på egen hardware: hvornår de er nok 22\. september 2026·3 min. læsning·Redaktionen En kompakt grafitgrå server på et skrivebord i hjørnet af et lille, rent kontor med ét blåt statuslys, en teknikers hånd, der justerer et kabel, og blødt dagslys fra et vindue bagved En virksomhed vil sortere indgående kundemails i et fast sæt kategorier og trække ordrenumre ud. Den sender hver e-mail til en stor ekstern model. Det virker. Så vokser regningen med mængden, hver e-mail venter et par sekunder på svar fra et andet kontinent, og den juridiske afdeling spørger, hvorfor kundekorrespondance overhovedet forlader virksomheden. Nogen spørger, om en lille model på en server på kontoret kunne klare samme opgave. Ingen ved det, for valget af model blev aldrig målt. Det blev truffet én gang, for hele virksomheden, ud fra omdømme. Årsagen er, at valget af model behandles som en platformsbeslutning og ikke som en beslutning pr. opgave. Frontiermodeller er generelle: De er bygget til at gøre næsten alt godt. Det meste af det, en virksomhed har brug for fra en sprogmodel, er smalt, gentaget og veldefineret. Til smalle opgaver kan en langt mindre model med åbne vægte — eventuelt tilpasset opgaven og komprimeret til at køre på beskeden hardware — være lige så præcis, hurtigere, billigere pr. kald og helt under virksomhedens kontrol. Eller den kan lade være. Det er det, en evaluering er til for. ## Hvor små modeller ofte er nok **Klassifikation og routing.** At sortere input i et fast sæt kategorier, prioriteter eller teams. **Udtræk.** At trække felter ud af dokumenter med en kendt form: fakturanumre, datoer, beløb, ordrereferencer. **Anonymisering, før noget forlader huset.** En lille lokal model fjerner personlige og fortrolige oplysninger, så en større ekstern model kan klare resten af arbejdet på det, der er tilbage. **Embeddings til intern søgning.** At omdanne interne dokumenter til vektorer til søgning kræver ikke en frontiermodel, og dokumenterne behøver aldrig at forlade huset. **Talegenkendelse lokalt.** At transskribere tale lokalt holder medarbejdernes stemmer inden for virksomheden, og det betyder noget for [stemme, når hænderne er optaget](https://hurukan.com/da/blog/stemme-naar-haenderne-er-optaget). **Korte udkast efter skabelon.** Standardsvar, hvor struktur og tone ligger fast. ## Hvor de kommer til kort **Lang ræsonnering i mange trin** på tværs af mange kilder og mange runder. **Åben tekstskrivning** til kunder og partnere, hvor kvaliteten bedømmes af mennesker uden for virksomheden. **Sprog og fagområder med få træningsdata.** Ydeevnen på et mindre udbredt sprog eller i et specialiseret felt skal testes, ikke antages. **At skrive ændringer af selve systemet.** At generere kode og konfiguration til gennemgang er der, hvor de mest kompetente modeller tjener deres pris ind. **Alt, du ikke kan evaluere.** Hvis du ikke kan se, om svaret er rigtigt, kan du heller ikke se, om en lille model er god nok. ## Omkostningerne på din side En model, du selv kører, er et system, du driver: hardware, opdateringer, overvågning, sikkerhedsrettelser og en person, der ejer den, når den opfører sig forkert. Åbne vægte kommer desuden med licenser, og de er forskellige; nogle har betingelser for kommerciel brug. Læs licensen for hver model, før den kommer i nærheden af produktion. ## Sådan beslutter du Beslut pr. opgave, ud fra dokumentation. Byg et evalueringssæt af rigtige eksempler, der dækker de almindelige tilfælde og de besværlige, med korrekte svar tjekket af dem, der udfører arbejdet. Kør den frontiermodel, du bruger i dag, og en eller to små kandidater på sættet. Sammenlign præcisionen på de tilfælde, der betyder noget, svartid, pris pr. tusind kald, og hvor data ender. Vælg den mindste model, der lever op til kravet, og kør evalueringen igen, når en af modellerne ændrer sig. Hurukan er designet til at gøre det valg til rutine. [Laget Superintelligens](https://hurukan.com/da/system/superintelligens) sender hver opgave til en model efter virksomhedens regler, mellem frontiermodeller og lokalt kørende modeller, og en model kan udskiftes uden at røre de agenter, der bruger den. [Laget Sikkerhed og suverænitet](https://hurukan.com/da/system/sikkerhed-og-suveraenitet) er bygget til infrastruktur, som virksomheden ejer eller selv vælger. Begge dele er under opbygning. Hvilke data der bør gå til en lokal model i første omgang, er emnet for [hvilke data der skal blive i huset](https://hurukan.com/da/blog/hvilke-data-skal-blive-i-huset). ## En test, du kan køre i dag Vælg én smal opgave, du i dag sender til en ekstern model: klassifikation, udtræk eller mærkning. Saml et udsnit af rigtige input fra sidste uge, og bed den person, der normalt udfører opgaven, om at skrive det korrekte output ned for hvert af dem. Kør de samme input gennem en lille model med åbne vægte på en arbejdsstation med et af de almindelige værktøjer til at køre modeller lokalt. Sammenlign dens output, og den eksterne models, med de korrekte svar. Hvis den lille model rammer rigtigt på de tilfælde, der betyder noget, har du fundet en opgave, der kan blive i huset. Hvis ikke, har du nu et evalueringssæt, og det er værd at beholde: Det vil fortælle dig, den dag en lille model bliver god nok. - små sprogmodeller - modeller med åbne vægte - on-premises - modelevaluering ## Læs videre - [Én identitet for mennesker og agenter: hvem må hvad](https://hurukan.com/da/blog/en-identitet-for-mennesker-og-agenter) - [Den levende tilstand og registret: to hukommelser i et operativsystem for virksomheden](https://hurukan.com/da/blog/den-levende-tilstand-og-registret-to-hukommelser)