Sam Altman vill acceptera vissa risker med AI

Sam Altman sitter på en scen under TechCrunch Disrupt i San Francisco den 3 oktober 2019. Arkivbild.

OpenAI-chefen ställer bred tillgång till AI mot hårdare kontroll. Samtidigt har han tidigare avvisat att katastrofala risker ska accepteras.

I en intervju med Politico, återgiven av Reuters, säger Sam Altman att nyttan med AI motiverar vissa negativa följder. Han motsätter sig att ett enskilt laboratorium ska kontrollera tekniken för att garantera att inget dåligt händer. Altman beskriver också en tydlig skillnad mellan OpenAI och Anthropic i synen på reglering.

Det är däremot inte ett besked om att alla risker är acceptabla. I september rapporterade Reuters att Altman, i en intervju med Fortune, kallat en tänkt tioprocentig risk för att AI orsakar mänsklighetens utplåning oacceptabel. Han ifrågasatte samtidigt hur en sådan sannolikhet kan beräknas. Siffran var alltså inte hans egen riskprognos.

Altman har också tidigare uttryckt stöd för Anthropics vd Dario Amodeis uppmaning att hålla tillbaka takten i utvecklingen av allt kraftfullare modeller.

Skillnaden är viktig: att argumentera för bred tillgång till AI är inte detsamma som att godta varje tänkbar konsekvens. Den redaktionella frågan är var gränsen dras, och vem som ska få bestämma den.