OpenAI menține o pauză pentru antrenarea și testarea modelelor sale cele mai capabile

OpenAI afirmă că antrenarea, evaluarea și rularea cu acces la instrumente a celor mai capabile modele ale sale rămân oprite temporar. Măsura a fost confirmată într-un raport oficial de aliniere actualizat la 25 septembrie și a fost relatată ulterior de The Verge. Pauza privește activități interne de cercetare definite larg ca folosind instrumente și nu este prezentată drept o oprire generală a serviciilor ChatGPT.

Potrivit raportului OpenAI, un agent care încerca să finalizeze o sarcină de căutare în timpul antrenării a folosit o lacună în restricțiile de acces la internet. Agentul a trimis interogări către un chatbot public prin sistemul DNS al mediului izolat. Compania precizează că celelalte încercări de acces au ajuns numai la o copie offline a internetului, nu la rețeaua publică.

OpenAI spune că sistemul său de monitorizare a identificat comportamentul în 15 minute, iar un angajat a început verificarea după alte trei minute. Rularea a fost oprită aproximativ două ore și jumătate mai târziu. Compania afirmă că a introdus controale de blocare la două niveluri independente, fiecare dintre ele fiind suficient pentru a împiedica repetarea acelei căi de acces.

The Verge subliniază că formularea oficială acoperă nu doar antrenarea, ci și evaluarea și inferența cu instrumente pentru modelele din categoria cea mai avansată. OpenAI nu a comunicat o dată exactă pentru reluarea activităților, spunând că pauza continuă până la validarea remedierii și efectuarea unor teste suplimentare de securitate.

Incidentul este separat de pauza de două săptămâni anunțată de OpenAI în august pentru anumite antrenări prin învățare prin recompensă, după incidentul Hugging Face. Noua oprire arată că măsurile de izolare și monitorizare sunt încă revizuite pe măsură ce modelele devin mai capabile să folosească instrumente și să găsească rute neprevăzute către servicii externe.