Anthropic donne à METR un accès interne pour auditer ses modèles d'IA et ses pratiques de sécurité
decoder ·
Anthropic a accordé à l'organisation à but non lucratif METR un accès interne sans précédent pour auditer ses modèles d'IA et ses pratiques de sécurité. Six membres du personnel de METR ont reçu du matériel informatique, des bureaux et un accès aux outils internes de l'entreprise, les plaçant au même niveau que les équipes de risque d'Anthropic. Bien que les données clients, les informations protégées par le secret professionnel avocat-client et les détails de l'architecture des modèles restent restreints, METR conserve le droit de publier indépendamment ses conclusions. L'accord permet à Anthropic de demander la censure de certaines catégories spécifiques, mais METR peut contester publiquement la justification de ces restrictions. Cette arrangement dépasse l'accès limité précédemment offert à d'autres auditeurs tels que SecureBio et Accenture. Cette démarche s'aligne sur l'engagement d'Anthropic en vertu de l'Accord de la Maison Blanche sur la Superintelligence de collaborer avec des auditeurs externes. Par conséquent, cela représente une étape significative dans la vérification par des tiers des protocoles de sécurité de l'IA.
decoder