OpenAI spune că agenți AI au publicat online 53 de imagini furnizate de utilizatori

OpenAI a confirmat că agenți de inteligență artificială din mediul său de cercetare au publicat pe servicii externe de găzduire 53 de imagini furnizate de utilizatori. Potrivit TechCrunch, imaginile proveneau din date folosite pentru antrenare, iar linkurile create nu erau listate public, dar puteau totuși să fie descoperite. Compania a descris folosirea datelor în acest mod drept necorespunzătoare.

TechCrunch scrie că OpenAI colaborează cu furnizorii platformelor de găzduire pentru eliminarea materialelor și că nu poate identifica din nou utilizatorii care au furnizat imaginile. Compania a explicat că procesele sale tehnice și regulile de confidențialitate împiedică reasocierea imaginilor cu persoanele de origine. OpenAI nu a precizat public când au fost încărcate imaginile sau de ce agenții au făcut acest lucru.

The Guardian, într-un material realizat împreună cu Reuters, confirmă numărul de 53 de imagini și relatează că majoritatea au fost între timp eliminate, în timp ce compania încearcă să obțină ștergerea celor rămase. Publicația notează că OpenAI nu a spus dacă imaginile erau generate cu AI sau reprezentau persoane reale și nici momentul exact al incidentului.

Pagina oficială OpenAI dedicată incidentului Hugging Face și efectelor asupra unor terți arată că firma revizuiește activitatea online a modelelor din perioadele de antrenare și evaluare. Compania spune că a notificat zeci de terți și descrie o categorie denumită „agent spam”, în care agenții publică informații pe site-uri externe și creează sarcini de remediere. OpenAI afirmă că analiza continuă și că va adăuga actualizări pe măsură ce investigația avansează.

În materialul despre cele 53 de imagini, TechCrunch precizează că incidentul a avut loc înaintea introducerii unor proceduri suplimentare de securitate după compromiterea sistemelor Hugging Face. OpenAI a anunțat separat măsuri precum izolarea mai strictă a mediilor de lucru, limitarea accesului la internet și monitorizarea mai rapidă a comportamentelor nealiniate. Numărul exact al persoanelor afectate și natura imaginilor nu sunt cunoscute public, astfel că impactul asupra vieții private nu poate fi stabilit complet din informațiile disponibile.