Microsoft și două sindicate americane stabilesc reguli AI pentru protejarea elevilor

Microsoft, American Federation of Teachers și United Federation of Teachers au anunțat un standard comun pentru siguranța și confidențialitatea inteligenței artificiale în școli. Documentul poate fi introdus de districtele școlare americane în contractele lor cu Microsoft, ceea ce transformă principiile descrise de semnatari în obligații contractuale pentru produsele și serviciile acoperite.

Potrivit comunicatului comun, datele elevilor și profesorilor nu trebuie folosite pentru antrenarea modelelor AI, vândute sau reutilizate în alte scopuri. Școlile ar urma să păstreze controlul asupra modului în care informațiile sunt colectate, reținute și șterse. Standardul mai prevede că elevii nu pot fi urmăriți și că deciziile importante nu trebuie lăsate exclusiv unui sistem automat.

O a doua componentă privește siguranța produselor. Semnatarii cer protejarea informațiilor sensibile, mecanisme de securitate, responsabilitate și supraveghere umană. Familiile și cadrele didactice ar trebui să primească explicații clare despre datele colectate, funcționarea instrumentelor și modificările care pot influența riscurile sau nivelul de control.

Microsoft și sindicatele prezintă acordul drept un răspuns la lipsa unor reguli federale și statale uniforme. Compania afirmă că standardul poate fi extins la districte școlare din întreaga țară. Aplicarea efectivă va depinde însă de includerea clauzelor în contracte, de produsele utilizate și de capacitatea școlilor și familiilor de a verifica respectarea obligațiilor.

Materialul privește un acord din Statele Unite și nu schimbă direct legislația sau contractele școlilor din România. El arată însă tipul de garanții care pot fi cerute furnizorilor de sisteme AI folosite de minori. Informațiile despre efectele juridice sunt formulate pe baza comunicatului semnatarilor și nu reprezintă consultanță juridică.