Anthropic s’associe à Accenture pour une évaluation intégrée
anthropic ·
Anthropic s’associe à Faculty, l’activité spécialisée dans l’IA d’Accenture, afin de mener des évaluations indépendantes de modèles d’IA de pointe. Ce travail comprendra l’évaluation des modèles et des exercices de red team, des évaluations de l’alignement ainsi que des tests des mesures de protection, en s’appuyant sur l’expérience d’Accenture dans le déploiement de l’IA auprès des entreprises et des pouvoirs publics. Anthropic et Accenture prévoient chacune d’investir au moins 1 milliard de dollars dans le développement des capacités d’évaluation au cours des cinq prochaines années. Les évaluateurs intégrés travailleront au sein d’entreprises d’IA avec un accès comparable à celui des employés, ce qui leur permettra d’observer l’entraînement des modèles, d’examiner les décisions de développement et de déploiement, de s’entretenir avec le personnel, de vérifier les engagements en matière de sécurité, d’identifier les angles morts et de signaler les incidents. Anthropic affirme que des évaluateurs indépendants renforceront la vérifiabilité de ses mécanismes de responsabilité, tandis qu’Anthropic restera responsable de la sécurité des modèles. Comme les normes et les systèmes de financement à long terme n’ont pas encore été établis, Anthropic financera initialement directement les travaux d’Accenture, tout en échangeant avec METR et d’autres évaluateurs à but non lucratif, et s’attend à ce que cette approche non exclusive évolue vers un écosystème plus vaste fondé sur des normes communes.
anthropic