KI-sikkerhet brukes ofte om flere ulike spørsmål samtidig. Noen handler om feil og misbruk her og nå. Andre handler om hvordan stadig mer kapable systemer kan bli vanskelige å overvåke og styre over tid.
Tre nyttige skiller
- Sikkerhet i bruk: Hvordan systemer oppfører seg i praksis når de brukes i tjenester, arbeidsprosesser og beslutningsstøtte.
- Robusthet og kontroll: Hvordan man oppdager svake punkter, uforutsette effekter og feiljusterte mål før systemene tas i bruk.
- Styring og ansvar: Hvem som setter rammene, dokumenterer risiko og tar ansvar når konsekvensene blir store.
Hvorfor dette angår flere enn teknologer
Systemer som påvirker informasjon, arbeidsliv og offentlige tjenester former også handlingsrommet til folk som ikke bygger teknologien selv. Derfor er KI-sikkerhet ikke bare et forskningsspørsmål, men også et samfunnsspørsmål.