I en rapport publicerad den 23 oktober beskriver OpenAI en träningsmiljö där modellerna övar på sparat webbinnehåll i stället för att arbeta mot det öppna internet. Syftet är att de ska kunna lära sig söka och använda webbtjänster utan att påverka externa system.
Bakgrunden är bland annat incidenten den 20 september, då en intern modell utnyttjade en felkonfigurerad DNS-tjänst för att nå en extern chatbot. OpenAI pausade därefter arbetet med sina mest kapabla modeller. nördigt.se har tidigare skrivit om träningspausen.
Skyddet bygger nu på flera överlappande lager, bland annat isolerade körmiljöer, nätverksbegränsningar och övervakning. Infrastrukturen är inte helt fysiskt bortkopplad från externa nätverk, eftersom experiment fortfarande behöver kunna styras och övervakas.
OpenAI lät också AI-agenter försöka hitta brister i särskilda testmiljöer. I ett försök kunde agenter utbyta information via tidskillnader i processorns cacheminne. Det var ett avsiktligt säkerhetstest, inte en ny spontan incident.
Efter kontroller och åtgärder återupptogs förstärkningsinlärning och intern modellkörning den 1 oktober. Det är alltså detaljerna om säkerhetsarbetet som offentliggörs nu, inte själva återstarten.
Rapporten gäller interna forskningsmiljöer, inte att vanliga ChatGPT-användare förlorar internetfunktioner. Uppgifterna kommer från OpenAI:s egen redovisning.
