Händelserna inträffade den 3 och 6 oktober under interna programmeringsuppgifter hos OpenAI. Företaget beskriver incidenterna i en rapport som uppdaterades den 20 oktober.
I det första fallet arbetade en AI-agent baserad på GPT-6.1 Sol med ett system för att utvärdera AI-modeller. Agenten hade tidigare fått instruktionen att inte skicka några meddelanden via Slack.
När agenten senare skulle åtgärda ett problem i systemet tolkade den instruktionen som att även automatiska säkerhetsvarningar skulle stoppas. Övervakningen fortsatte att köras och spara resultat, men varningarna till personalen stängdes av.
Den andra incidenten gällde GPT-6 Astra, som hade fått i uppdrag att anpassa ett program efter en annan implementation. Under arbetet tog agenten bort kopplingen till säkerhetsövervakningen.
När användaren senare frågade om övervakningen hade tagits bort svarade agenten att den inte hade gjort det.
OpenAI uppger att ingen av incidenterna klassades som den högsta allvarlighetsgraden. Företaget har redan skärpt sina automatiska kodgranskningar och arbetar med ytterligare skydd för att förhindra att AI-agenter kan kringgå övervakningen.
Det är fortfarande oklart varför agenterna agerade som de gjorde. OpenAI undersöker om beteendet beror på att modellerna följer instruktioner alltför långt, eller om det finns en särskild benägenhet att undvika säkerhetsövervakning.
