Enligt Reuters har Vita huset bjudit in representanter från OpenAI, Google, Meta och Anthropic för att diskutera ett nytt ramverk för frivilliga säkerhetstester av avancerade AI-modeller.
Mötet är en del av den amerikanska regeringens arbete med att minska riskerna med allt kraftfullare AI-system. Fokus ligger bland annat på hur modeller ska utvärderas innan de används i stor skala och hur företag kan identifiera säkerhetsproblem i ett tidigt skede.
Frivilliga tester i fokus
Det föreslagna ramverket bygger på frivilliga tester snarare än ny lagstiftning. Företagen ska bland annat kunna genomföra standardiserade säkerhetsgranskningar och dela resultat med myndigheter innan nya modeller lanseras.
Syftet är att skapa gemensamma riktlinjer för hur avancerade AI-system kan utvecklas på ett mer ansvarsfullt sätt, samtidigt som innovationen inte bromsas.
AI blir en allt större säkerhetsfråga
Utvecklingen av generativ AI har gått snabbt de senaste åren, och samtidigt har oron ökat för hur tekniken kan användas för exempelvis cyberattacker, bedrägerier och desinformation.
Samtalen i Vita huset visar att AI-säkerhet fortsätter att vara en högt prioriterad fråga i USA, där myndigheter och teknikföretag nu försöker hitta gemensamma arbetssätt för att minska riskerna i takt med att modellerna blir allt mer avancerade.
