OpenAI presenterade förändringarna den 30 oktober. ChatGPT ska begränsa praktisk information om vapen och säkerhetssystem som kan missbrukas för att underlätta våld. För tonåringar ska begränsningarna gälla även när frågan verkar harmlös och inga tecken på våldsavsikt finns.
Företaget utvecklar också möjligheten att automatiskt avsluta samtal som visar en fixering vid våld eller att allvarligt skada andra. Upprepade sådana avbrott kan leda till att kontot pausas tillfälligt.
OpenAI arbetar dessutom med föräldravarningar när en tonårings konto pausas av den anledningen. Dessa nya varningar ska inte blandas ihop med befintliga aviseringar vid vissa allvarliga säkerhetsproblem.
Föräldrakontrollerna bygger på att förälderns och tonåringens konton länkas genom en accepterad inbjudan. Enligt OpenAI:s hjälpsida innebär kopplingen inte att föräldern kan läsa barnets konversationer eller följa aktiviteten i realtid.
Skydden ska börja införas under de kommande veckorna. Något separat datum för Sverige anges inte. Beskedet beskriver OpenAI:s planerade åtgärder, inte ett oberoende belägg för hur väl de fungerar.
