Paul Christiano intră în boardul OpenAI Foundation și în comitetul pentru siguranță

OpenAI a anunțat numirea lui Paul Christiano în boardul OpenAI Foundation. El va deveni și membru al Safety and Security Committee, comitetul fundației care supraveghează practicile de siguranță și securitate ale organizației, inclusiv activitatea OpenAI Group PBC. În paralel, Christiano va avea rolul de observator fără drept de vot în boardul companiei.

Christiano este fondatorul Alignment Research Center, organizație nonprofit concentrată pe alinierea sistemelor avansate de inteligență artificială cu interesele umane. Între 2017 și 2021, el a condus cercetarea de aliniere la OpenAI și a contribuit la dezvoltarea timpurie a tehnicilor de învățare prin feedback uman, cunoscute sub abrevierea RLHF.

OpenAI indică și experiența sa în administrația americană. Christiano este consilier tehnic principal la Center for AI Standards and Innovation din cadrul NIST, unde a lucrat la evaluarea modelelor de frontieră și la reducerea riscurilor de siguranță și securitate. Compania precizează că, în această funcție publică, se va recuza din chestiunile legate de OpenAI și din evaluările modelelor.

Safety and Security Committee este condus de Zico Kolter și are un rol de guvernanță asupra practicilor de siguranță. Potrivit anunțului companiei, numirea urmărește să aducă în procesul decizional o perspectivă tehnică independentă, inclusiv asupra riscurilor catastrofale și a măsurilor care ar trebui pregătite înainte ca sistemele să atingă capacități mai periculoase.

Aceste informații provin din comunicatul oficial OpenAI și descriu structura și argumentele prezentate de organizație. Numirea nu reprezintă, în sine, o evaluare independentă a eficienței mecanismelor de supraveghere.