Sikkerhetsleder slutter i OpenAI: — Kulturen er ødelagt

David Robinson, en av lederne i OpenAIs team for sikkerhetssystemer, har sluttet i selskapet. I et essay i The Atlantic 3. oktober skriver han at kulturen i OpenAI er ødelagt, melder TechCrunch.

Robinson ledet arbeidet med sikkerhetsrapportene som fulgte OpenAIs store lanseringer, og var i selskapet i tre og et halvt år. Kritikken hans retter seg mot «iterativ lansering»: slipp produktet, finn feilen, tett hullet og gjenta. Ifølge Robinson gir det feil som blir større jo kraftigere systemene blir.

Han mener KI-selskaper bør drives mer som kjernekraftverk og flyplasser, med flere lag av sikkerhet, slik at én menneskelig feil ikke kan føre til katastrofe.

Avskjeden kommer samme uke som OpenAI stanset lanseringen av GPT-6.1 Astra av sikkerhetshensyn.

For norske bedrifter: Også i mindre skala gjelder prinsippet: test KI-løsninger grundig før de slippes til kunder, og ha en plan for hva som skjer når noe går galt.