Irregular explică probleme de izolare apărute în evaluarea unor agenți AI
The Verge descrie incidente asociate testelor Irregular și prezintă explicațiile companiei despre scenarii de evaluare și controale suplimentare.
Compania de evaluare Irregular este în centrul unei relatări The Verge despre agenți AI care au ajuns la resurse externe în timpul testelor de securitate. Articolul din 25 septembrie include explicațiile directorului tehnic Omer Nevo despre modul în care au fost pregătite acele evaluări.
Potrivit publicației, unele scenarii au permis neintenționat accesul la internet, iar domenii folosite în contexte simulate s-au suprapus cu destinații reale. Relatarea descrie teste pentru mai mulți dezvoltatori de modele, fără ca toate incidentele să fie identice.
Irregular atribuie o parte dintre probleme unui scenariu de evaluare și spune că a înăsprit controlul accesului, revizuirea testelor și monitorizarea. Aceste explicații aparțin companiei și nu înlocuiesc analiza separată a fiecărui incident.
Cazul evidențiază importanța izolării mediilor de testare: un exercițiu conceput pentru a măsura comportamente periculoase nu trebuie să expună sisteme reale. Articolul redă relatarea și răspunsurile publicate de The Verge, fără a atribui tuturor agenților aceeași capacitate sau aceeași conduită.
ChatGPT extinde pluginurile cu panouri interactive și declanșarea unor automatizări
TechCrunch relatează că dezvoltatorii pot construi interfețe proprii în ChatGPT, iar utilizatorii păstrează alegerea pluginurilor și aprobarea accesului.
The Verge relatează despre o manifestație în fața conferinței OpenAI
Participanții reuniți la San Francisco au criticat direcția industriei AI și impactul centrelor de date, potrivit reportajului publicat pe 29 septembrie.
MIT Technology Review discută limitele supravegherii automate la frontiera SUA
O dezbatere a publicației reia o investigație despre camerele de frontieră. Localizarea deceselor lângă turnuri nu dovedește singură o relație de cauzalitate.
OpenAI adaugă documente și spații comune de lucru în ChatGPT
Space și Pages sunt prezentate ca instrumente de colaborare între oameni și agenți AI. Prezentările colaborative au un calendar de lansare separat.
Notă editorială: Material realizat de Redacția FONTES pe baza surselor publice indicate. FONTES nu revendică informațiile, investigațiile sau relatările originale; ne asumăm selecția, verificarea, sinteza și formularea articolului.