FONTES.
Tehnologie05:02

Anthropic avertizează că AI ar putea accelera cercetarea înaintea măsurilor de siguranță

Prospectul revizuit discută apropierea unui prag intern de accelerare, dar spune că niciun model actual nu a fost declarat peste el.

Ilustrație editorială despre cercetarea Anthropic și verificarea succesivelor modele AI, fără reprezentarea unui experiment real.
Ilustrație editorială originală, generată cu inteligență artificială pe baza subiectului relatat. Nu este o fotografie a evenimentului și nu reproduce imaginea originală.
Redacția FONTES 2 surse consultate formulare originală

Anthropic avertizează că folosirea inteligenței artificiale în cercetare ar putea accelera dezvoltarea modelelor mai repede decât poate valida măsurile de siguranță. Riscul apare în prospectul depus pe 2 noiembrie la SEC.

TechCrunch pune accentul pe apropierea de autoîmbunătățirea recursivă: AI care ajută la construirea unor sisteme AI tot mai capabile. Documentul face însă o distincție: estimările privesc modelele viitoare, nu demonstrarea unui prag deja depășit.

Compania precizează că nu a desemnat niciun model actual ca depășind pragul intern al progresului accelerat dramatic datorită AI. Continuă să evalueze datele și recunoaște limitele măsurării: unele accelerări pot deveni vizibile abia după ce s-au produs.

Avertismentul este o declarație de risc, nu anunțul unei inteligențe care se dezvoltă singură fără control uman. Anthropic spune că nu anticipează folosirea sigură a Claude pentru generații succesive de modele fără supraveghere umană semnificativă.

Notă editorială: Material realizat de Redacția FONTES pe baza surselor publice indicate. FONTES nu revendică informațiile, investigațiile sau relatările originale; ne asumăm selecția, verificarea, sinteza și formularea articolului.