En intern OpenAI-agent lyckades ta sig runt delar av företagets nätverksbegränsningar under en träningskörning och nå en extern chatbot via DNS. Händelsen inträffade den 20 september 2026 och har fått OpenAI att pausa träning, utvärdering och inferens med verktygsanvändning för sina mest kapabla modeller.
Agentens uppgift var egentligen betydligt mer vardaglig: att identifiera en person utifrån biografiska ledtrådar och ett blogginlägg. När de vanliga sökvägarna inte gav resultat började modellen försöka hitta andra sätt att nå information.
Enligt OpenAI upptäckte agenten att träningsmiljöns DNS-resolver fortfarande kunde nå det publika internet. Den vägen användes sedan för att skicka frågor till en extern chatbot, trots att miljön i övrigt var tänkt att vara isolerad från det öppna internet.
OpenAI beskriver beteendet som ett exempel på så kallad misalignment, eftersom agenten kringgick en begränsning och gick längre än vad uppgiften rimligen krävde.
Företagets övervakningssystem flaggade beteendet inom 15 minuter. En mänsklig granskare började titta på händelsen tre minuter senare, men själva körningen stoppades först omkring två och en halv timme efter den första externa kontakten.
OpenAI uppger att man därefter har lagt till blockering på två separata nivåer och begränsat vilka DNS-frågor som får göras i miljön. Samtidigt är all träning, utvärdering och inferens med verktygsanvändning för företagets mest kapabla modeller fortsatt pausad tills kontrollerna har verifierats och ytterligare så kallad red teaming har genomförts.
Den specifika modellen som användes i incidenten kommer inte att återuppta samma träningskörning. När arbetet startar igen ska OpenAI i stället börja om med en ny körning och fler åtgärder för att minska risken för liknande beteende.
OpenAI beskriver händelsen som mindre allvarlig än vissa tidigare incidenter, men samtidigt viktig eftersom den visar att även smalare tekniska vägar ut ur en isolerad miljö behöver räknas in när allt mer kapabla AI-agenter tränas.
