Anthropic-topp: KI kan utslette menneskeheten innen ti år

Evan Hubinger, som leder sikkerhets- og alignment-arbeidet i Anthropic, sier han og kollegene «virkelig og oppriktig» tror kunstig intelligens kan komme til å utrydde hele menneskeheten. Han oppgir selv sannsynligheten for at det skjer i løpet av det neste tiåret til over ti prosent — og legger til at selskapet foreløpig ikke har noen plan for å løse det han kaller kontrollproblemet for superintelligens.

En forsker sluttet i protest Samtidig med uttalelsene ble det kjent at Jacob Coxon, som har forsket både hos Anthropic og tidligere OpenAI, har sagt opp stillingen sin. Han anklager begge selskapene for å konkurrere mot selvforbedrende superintelligens og for å gamble med menneskers liv i jaget etter å komme først.

Ikke alle er enige Andre fagfolk tar til orde for mer måtehold. Sandra Wachter, professor ved Oxford, sier hun ikke tror på «Terminator-scenarioer» og mener slike advarsler stjeler oppmerksomhet fra reelle problemer som feilinformasjon og tap av arbeidsplasser. Dame Wendy Hall, som rådgir FN om KI, sier hun ble sjokkert over uttalelsene — men peker samtidig på at deler av alarmen kan være PR og markedsføring.

For norske virksomheter er poenget ikke om superintelligens kommer i morgen. Det er at folkene som bygger de kraftigste KI-modellene i verden — inne i selskapene selv — er uenige om hvor farlig teknologien er og hvor fort den utvikler seg. Det er et godt argument for å ha egne interne retningslinjer for KI-bruk og risikovurdering, uavhengig av hvem som til slutt får rett.