Et sikkerhetstiltak kan gjøre en konkret forskjell: En begrenset tilgang kan hindre en handling. En god test kan avsløre en svakhet. En øvd hendelsesrespons kan begrense skaden. Arbeidet blir mer håndfast når vi spør hvilket problem hvert tiltak skal løse.

Noe sikkerhetsarbeid skjer i selve teknologien: hvordan systemene bygges, testes og får tilgang til verktøy. Andre tiltak handler om styring: hvem som setter krav, kontrollerer at de følges og har ansvar når noe går galt.

Undersøke evnene før vi gir mer tilgang

Evaluering av farlige evner (dangerous capability evaluations) undersøker hva et system kan gjennomføre, for eksempel innen datasikkerhet. Testene kan gi grunnlag for å endre tilganger, sikkerhetsopplegg eller planene for bruk.1

Også testen trenger barrierer. En evaluering av en sterk agent er selv en situasjon der agenten får handle. Det avgjørende er derfor både hva vi lærer, og hva agenten kan påvirke mens vi lærer det.

Gjøre atferden mer pålitelig — og begrense følgene av feil

KI-alignment (AI alignment) arbeider med at systemene skal handle i tråd med menneskelige intensjoner og sikkerhetskrav. Bedre trening og tilbakemeldinger kan redusere feil. Å få atferden til å holde i nye situasjoner er en sentral utfordring.2

KI-kontroll (AI control) undersøker om barrierene kan beskytte oss selv når systemet forsøker å omgå dem. Begrensede rettigheter, separat overvåking og godkjenning av risikofylte handlinger kan inngå. Det ene arbeidet erstatter ikke det andre: Pålitelig atferd og begrenset skadepotensial kan utfylle hverandre.3

Det samme gjelder beredskap. Hvem blir varslet? Hvem kan stanse systemet? Hvordan gjenoppretter man berørte tjenester? Å prøve dette i et avgrenset oppsett gir mer informasjon enn bare å skrive at noen "har ansvar".

Hvilket problem skal tiltaket løse?

Metode Problem den retter seg mot Hvem utfører arbeidet? Hva den ikke avgjør alene
Evaluering av farlige evner Vi vet for lite om hva systemet kan gjennomføre. Utviklere og evaluatorer prøver systemet under avgrensede betingelser. En test dekker ikke alle oppgaver, verktøy eller fremtidige situasjoner.1
Alignment og generaliseringstester Treningen kan belønne noe annet enn det mennesker ønsker. Modellutviklere og sikkerhetsforskere undersøker trening og atferd. God atferd i kjente situasjoner garanterer ikke det samme under nye forhold.2
Begrensede tilganger og kontrolltester Farlige handlinger kan lykkes selv om de bryter instruksen. Systemeiere og sikkerhetsteam setter opp og tester barrierer. Flere lag kan ha felles feil; kontroll må vurderes for hele oppsettet.3

Hva vil det si å dokumentere sikkerhet?

Et sikkerhetsargument (safety case) knytter en påstand om sikkerhet til konkrete belegg og tydelige forutsetninger. Det kan for eksempel beskrive hvilke tilganger systemet har, hvilke farlige handlinger som er testet, og hvordan barrierene håndterer forsøk på å omgå dem.4

Spørsmålet blir dermed: Hvilket system er trygt nok til hva, under hvilke betingelser? Nye verktøy, flere kopier eller andre oppgaver kan endre svaret. Sikkerhetsarbeidet må følge systemet, ikke bare modellnavnet.

Hva har Tryggere KI og andre tatt til orde for?

Vårt eget arbeid handler om folkeopplysning, kontakt med beslutningstakere og deltakelse i offentlig debatt. I en kronikk 24. august 2026 argumenterte Kristian Wold og Ludvig Lilleby Johansson for lavere utviklingstempo og internasjonalt sikkerhetsarbeid med norsk deltakelse.5

Her er også tre dokumenterte forslag og rammeverk, med forskjellige avsendere og ulik status:

Forslag eller rammeverk Hva innebærer det? Hvem får en rolle? Gjennomføring og avveininger
Langsikt: norsk KI-sikkerhetsorgan. Forslag publisert 7. september 2026. Bygge kapasitet til internasjonal koordinering, råd til myndigheter og koordinering av KI-testing. Et foreslått offentlig organ, relevante myndigheter og fagmiljøer. Mandat, tilgang til systemer, kompetanse og uavhengighet må avklares. Et nytt organ får ikke automatisk disse forutsetningene.6
PauseAI: sikkerhetsbetingelser for den kraftigste utviklingen. Organisasjonens plattform. En midlertidig internasjonal pause eller begrensning knyttet til vilkår for videre utvikling. Deltakende stater, utviklere og den internasjonale kontrollordningen forslaget ser for seg. Avgrensning, etterprøving og deltakelse fra flere land er sentralt. Mulige kostnader omfatter utsatte gevinster og risiko for omgåelse.7
EU: kodeks for allmenn-KI. Frivillig hjelp til etterlevelse av underliggende lovkrav. Beskriver blant annet arbeid med sikkerhet og sikring for modeller med systemisk risiko. Leverandører som bruker kodeksen; oppfølging skjer innen EUs regelverksramme. Kodeksen er ikke det samme som et forskningsresultat eller et nytt norsk organ. Betydningen avhenger blant annet av relevant dokumentasjon og oppfølging.8

Forslagene prøver å løse ulike problemer. Et sikkerhetsorgan skal bygge kapasitet og plassere ansvar. En pause skal sette grenser for videre utvikling. Når forslagene vurderes, må man også spørre hva de koster, hvordan de kan håndheves og hvordan aktørene kan komme til å tilpasse seg.

Hva betyr dette for Norge?

De publiserte forslagene berører flere mulige norske roller: forskning, innkjøp og bruk av KI, offentlig tilsyn og internasjonalt samarbeid. Langsikts notat handler om institusjonell kapasitet; kronikken fra Wold og Johansson legger vekt på diplomati, politikkutvikling og verifikasjon av avtaler.65

Et konkret tiltak må beskrive hvem som skal gjøre hva, hvilke systemer det gjelder og hvordan virkningen skal undersøkes. Et nytt organ får for eksempel ikke automatisk tilgang til modellene det skal vurdere. En internasjonal avtale trenger også en måte å kontrollere etterlevelsen på.

Disse spørsmålene gjør det lettere å sammenlikne forslagene. At et tiltak for eksempel gjør det lettere å oppdage farlig atferd, avgjør ikke i seg selv om tiltaket bør være obligatorisk eller hvem som bør betale for det.

Mange sikkerhetsmetoder kan testes, og styringsforslag kan vurderes opp mot tydelige mål. Det er mer usikkert hvor godt de vil virke mot framtidige systemer, og hvilke organisatoriske løsninger som fungerer best i praksis. Derfor bør vi skille mellom hva et tiltak er ment å oppnå, og hva vi faktisk har dokumentasjon på at det oppnår.

Les mer

Wold og Johanssons kronikk forklarer deres standpunkt. Langsikts notat beskriver et institusjonsforslag. AISI om kontrolltester utdyper teknisk sikkerhetsarbeid.

Ta del i samtalen

Har du et spørsmål, en innvending eller relevant fagkunnskap? Finn kontaktinformasjon og Discord hos Tryggere KI. Du kan også lese organisasjonens publikasjoner og se hvordan argumentene brukes i offentlig debatt. Følg nye innlegg på Substack.

Tilbake til oversikten.

Kilder og noter

  1. International AI Safety Report 2026, delene om evaluering og risikohåndtering.↩1↩2

  2. DeepMind om feilgeneralisering av mål.↩1↩2

  3. Greenblatt mfl.: AI Control. Metoder og eksperimenter under bestemte betingelser.↩1↩2

  4. Anthropic: Three Sketches of ASL-4 Safety Case Components, 2024. Skisser til argumenter og dokumentasjonskrav, ikke en generell sikkerhetsgaranti.↩

  5. Tryggere KIs nettside og kronikken fra 24. august 2026. Kronikken er signert av Kristian Wold og Ludvig Lilleby Johansson.↩1↩2

  6. Konseptnotat for et norsk KI-sikkerhetsorgan, 7. september 2026. Her brukes det publiserte nettsammendraget.↩1↩2

  7. PauseAIs forslag og organisasjonens drøfting av mulige problemer ved en pause, kontrollert 19. september 2026.↩

  8. EU-kommisjonens beskrivelse av GPAI-kodeksen, kontrollert 19. september 2026. Kildehenvisningen gjelder EUs kodeks.↩