OpenAI börjar under de kommande veckorna lägga in ett osynligt vattenmärke i text från ChatGPT och Codex för användare i EU. Tekniken heter textGrain och påverkar modellens ordval så att en statistisk signal kan upptäckas i efterhand.
För API-kunder är vattenmärkning redan tillgänglig som ett frivilligt val globalt på utvalda modeller. I ChatGPT och Codex ska den rullas ut till alla planer i EU.
Bakgrunden är artikel 50 i EU:s AI-förordning, som kräver maskinläsbar märkning av AI-genererat och manipulerat innehåll i den mån det är tekniskt möjligt.
OpenAI betonar samtidigt att märkningen har tydliga begränsningar. Den kan inte visa hur mycket en människa har redigerat texten, vem som skrev prompten eller om innehållet är korrekt. Kortare texter, omskrivningar och översättningar kan också göra signalen svårare att upptäcka.
Detektorn blir inte offentlig från start. OpenAI öppnar i stället åtkomst för godkända forskare och expertorganisationer och planerar att senare göra textGrain tillgängligt som öppen källkod.
