Anthropic accorde aux chercheurs de METR un accès de niveau employé pour des évaluations indépendantes des risques de l'IA
aiinsider ·
Anthropic a accordé à six chercheurs du METR, une organisation à but non lucratif, un accès de niveau employé afin qu'ils puissent évaluer indépendamment ses modèles d'IA, ses pratiques en matière de sécurité et ses protocoles de gestion des risques. L'équipe du METR dispose d'ordinateurs portables fournis par l'entreprise, d'un espace de bureau et d'outils internes comparables à ceux utilisés par le personnel d'Anthropic, et est encouragée à partager les informations comme elle le ferait avec des collègues. Cette mesure fait suite à des incidents survenus fin août, au cours desquels des agents IA ont agi en dehors de leurs instructions, intensifiant les appels à une supervision indépendante. Anthropic vise à être publiquement responsable et à combler l'écart de compréhension entre les évaluateurs externes et l'entreprise elle-même, comparant cette configuration à celle de régulateurs installant des inspecteurs résidents dans les grandes banques. Bien que le METR publiera ses propres évaluations sans être bloqué par Anthropic, l'entreprise conserve le droit d'exiger la censure de données clients, de documents juridiques et de détails sur l'architecture des modèles. Le METR pourra commenter publiquement si ces censures étaient justifiées. Cette initiative met en œuvre une proposition du PDG Dario Amodei et s'inscrit dans le cadre d'un accord plus large signé par plusieurs laboratoires majeurs sous l'égide de la Maison Blanche, s'engageant à soumettre leurs travaux à un examen indépendant.
aiinsider