Begrepet superintelligens brukes ofte om hypotetiske systemer som overgår mennesker på de fleste kognitive oppgaver. Det er et ord som vekker sterke reaksjoner, delvis fordi det peker langt fram i tid, og delvis fordi det brukes ulikt av ulike miljøer.
Hvorfor begrepet fortsatt dukker opp
For noen er ordet nyttig fordi det setter fokus på hvor store konsekvensene kan bli dersom KI-systemer blir langt mer kapable enn i dag. For andre gjør ordet debatten mindre presis, fordi det blander langsiktige scenarioer med mer konkrete styringsutfordringer.
En nøktern bruk
Et mer forsiktig utgangspunkt er å spørre hvilke egenskaper systemene faktisk får, hvilke beslutninger de påvirker, og hvor vanskelig de er å kontrollere. Da blir diskusjonen mer knyttet til styring enn til spekulasjon.