Une mise à jour sur les évaluateurs indépendants
anthropic ·
Anthropic a annoncé une expansion significative de son cadre d'évaluation indépendant en accordant à METR, une organisation à but non lucratif spécialisée dans l'évaluation des modèles d'IA de pointe, un accès de type employé. Cette démarche s'aligne sur l'engagement récent d'Anthropic en faveur d'un contrôle plus strict par des tiers et sur sa signature de l'Accord de la Maison Blanche sur la superintelligence. L'entreprise vise à combler le fossé de connaissances entre ses équipes internes de sécurité et les auditeurs externes en offrant une visibilité approfondie sur les données d'entraînement, les mesures de protection et les évaluations des risques. Bien que METR conserve la liberté de publier ses conclusions sans pouvoir de veto, Anthropic se réserve le droit de censurer certaines catégories sensibles, telles que les données clients ou les informations protégées par le secret avocat-client. Pour gérer ce processus, Anthropic développe un système d'accès à trois niveaux pour divers évaluateurs, allant d'enquêtes aux périmètres étroits à des partenariats intégrés complets. Actuellement, SecureBio opère au premier niveau en examinant des chapitres spécifiques des rapports sur les risques, tandis qu'Accenture et Faculty sont engagés dans des collaborations plus larges en matière d'alignement et de tests d'intrusion (red-teaming). D'autres organisations, comme Hugging Face, sont en discussions précoces pour une inclusion future dans cette structure robuste de supervision de la sécurité.
anthropic