Microsoft AI:s chef Mustafa Suleyman vill att teknikbranschen drar en tydlig gräns: artificiell intelligens ska kunna bli mycket avancerad, men inte utvecklas för att ha medvetande eller egna upplevelser.
I ett längre inlägg på X den 1 november argumenterar Suleyman för att det vore oansvarigt att medvetet skapa en AI som kan uppleva något. Om tecken på medvetande skulle uppstå under träningen anser han att utvecklingen bör pausas tills dessa egenskaper kan konstrueras bort.
Oenig med Anthropics synsätt
Uttalandet är en fortsättning på en diskussion från september om så kallad *model welfare* – frågan om AI-modeller skulle kunna ha ett eget välbefinnande eller moraliska intressen. Suleyman har kritiserat Anthropic för att ge sådana frågor utrymme i material kring Claude. Han menar att det kan försvåra möjligheten att styra AI-system.
Suleyman hävdar att dagens AI-system inte är medvetna och saknar subjektiva upplevelser. Han säger samtidigt att trovärdiga belägg för motsatsen måste göras offentliga så att samhället kan diskutera hur de ska hanteras.
Ingen etablerad metod för att avgöra frågan
AI-medvetande är fortfarande en öppen vetenskaplig och filosofisk fråga. Att en språkmodell talar om känslor eller beskriver sig själv som medveten är inte i sig ett bevis för att den upplever något. Det finns inte heller något allmänt accepterat test som avgör frågan.
Uttalandet innebär inte att Microsoft har beslutat att stoppa AI-utvecklingen. Det handlar om Suleymans uppfattning om hur branschen bör agera om framtida system skulle visa trovärdiga tecken på medvetande.
