OpenAI vill att USA tar en ledande roll i arbetet med internationella tekniska standarder för avancerade AI-system.
Enligt Reuters efterlyser företaget gemensamma sätt att mäta modellernas kapacitet och risker, samt protokoll för incidentrapportering och samarbete mellan länder.
OpenAI pekar särskilt på så kallad rekursiv självförbättring, där AI-system i framtiden kan bidra till att utveckla mer kapabla versioner av sig själva. Företaget säger att sådana system inte bör eftersträvas om de inte kan utvecklas på ett säkert sätt.
OpenAI beskriver också behovet av att låta säkerhets- och alignmentforskning hålla jämna steg med modellernas kapacitet. I företagets terminologi handlar "pacing" därför inte om en bestämd utvecklingstakt, utan om att säkerhetsarbetet inte ska hamna efter.
Utspelet kommer samtidigt som världsledare samlas till FN:s generalförsamling i New York. Sam Altman ska på onsdag briefa FN:s säkerhetsråd om AI och internationell säkerhet.
Frågan är politiskt omstridd. Trumpadministrationen har motsatt sig generella krav på att bromsa AI-utvecklingen och har bland annat argumenterat för att en långsammare amerikansk utveckling skulle kunna gynna Kina.
