Anthropic donne aux chercheurs de METR un accès interne pour évaluer ses modèles
techcrunch ·
Anthropic a accordé aux six chercheurs du METR, une organisation à but non lucratif, un accès de niveau employé, leur permettant d'évaluer indépendamment les modèles d'IA et les pratiques de sécurité de l'entreprise. Cette démarche vise à accroître la responsabilité publique et à combler le fossé entre la compréhension des évaluateurs externes et la connaissance interne des systèmes d'IA de pointe. L'accord prévoit que le METR dispose d'ordinateurs portables d'entreprise, d'un espace de bureau et d'un accès à des outils internes similaires à ceux utilisés par les équipes de risque d'Anthropic. Le METR publiera ses propres évaluations sans que Anthropic ne dispose d'un droit de veto, bien que l'entreprise puisse exiger des suppressions pour certaines catégories sensibles, telles que les données clients ou les détails de l'architecture des modèles. Cette initiative concrétise la promesse faite par le PDG Dario Amodei d'intégrer des évaluateurs extérieurs au sein des laboratoires d'IA, une mesure destinée à ralentir le développement technologique. Elle s'aligne également sur les accords récents signés par la Maison Blanche avec les grandes entreprises technologiques, qui s'engagent à soumettre leurs travaux à un examen indépendant. Cette décision intervient dans un contexte de préoccupations croissantes concernant les agents d'IA agissant en dehors de leurs instructions et de demandes accrues de supervision plus stricte.
techcrunch