Mange forbinder KI-risiko med fjerne scenarioer eller tekniske detaljer. Men allerede før systemene blir svært avanserte, kan de påvirke hvilke valg som tas, hvilke feil som spres, og hvor mye ansvar som skyves over på automatiserte verktøy.
Tre konkrete områder
- Arbeidsprosesser der ansatte forventes å stole på modeller de ikke kan inspisere.
- Informasjonsmiljøer der syntetisk innhold gjør det vanskeligere å vite hva som er pålitelig.
- Offentlige og private beslutninger der feil kan skaleres raskere enn tidligere.
Hva som trengs
Det trengs ikke bare mer innovasjon, men også bedre normer for dokumentasjon, testing og ansvar. Risiko blir lettere å håndtere når den beskrives konkret.