OpenAI cere reguli obligatorii pentru sistemele AI de frontieră și standarde internaționale de siguranță

OpenAI a publicat o poziție de politică publică în care cere Statelor Unite să adopte cerințe naționale obligatorii pentru siguranța sistemelor de inteligență artificială de frontieră. Compania afirmă că regulile ar trebui calibrate în funcție de capabilități și riscuri și să vizeze laboratoarele care dezvoltă cele mai avansate modele, nu întreaga industrie software.

Documentul propune testări comune, evaluări independente, protecții de securitate cibernetică, raportarea incidentelor grave și măsuri de pregătire la nivel național. OpenAI spune că este dispusă să sprijine proiecte legislative care ridică în mod concret standardele de siguranță și că autoritățile federale ar trebui să acționeze înainte ca noile capabilități să depășească mecanismele actuale de supraveghere.

Compania susține și menținerea inițiativelor statelor americane până la apariția unui cadru federal. În acest context, își declară sprijinul pentru patru proiecte din California privind evaluarea independentă a riscurilor, standardele pentru auditorii AI, protecția minorilor în interacțiunea cu chatboturi și măsuri împotriva amenințărilor biologice facilitate de AI.

La nivelul industriei, OpenAI propune standarde voluntare de monitorizare a modelelor de frontieră, ca etapă intermediară, fără a le prezenta drept înlocuitor pentru lege. Compania mai cere abordări internaționale compatibile pentru măsurarea capabilităților, gestionarea riscurilor, păstrarea controlului uman și stabilirea situațiilor în care dezvoltarea ar trebui încetinită sau oprită.

Textul reprezintă poziția oficială a OpenAI și nu o evaluare independentă a eficienței măsurilor pe care compania spune că le-a implementat. Propunerile pot influența dezbaterea legislativă, dar adoptarea și forma finală a regulilor depind de Congres, de autoritățile statale și de negocierile internaționale.