Le premier évaluateur intégré d’Anthropic serait… Accenture ?
techcrunch ·
Anthropic a annoncé que des employés de la division IA d’Accenture, Faculty, commenceront à travailler au sein de l’entreprise pour évaluer les modèles et les soumettre à des tests de sécurité, réaliser des évaluations de l’alignement et tester les dispositifs de protection. Anthropic et Accenture prévoient d’investir au moins 1 milliard de dollars dans cette initiative au cours des cinq prochaines années. Le choix d’Accenture a surpris certains observateurs de l’IA, notamment parce que les discussions sur les évaluateurs intégrés s’étaient largement concentrées sur des organisations telles que METR, Redwood Research et Apollo Research. Anthropic a déclaré prévoir d’annoncer d’autres évaluateurs et discuter de projets pilotes avec METR et d’autres organisations à but non lucratif qui les financeraient sur leurs propres fonds. L’entreprise a invoqué l’expérience d’Accenture dans le déploiement de l’IA pour les entreprises et les gouvernements, ainsi que son indépendance en tant que grande société cotée en bourse, tout en reconnaissant que les normes concernant l’accès des évaluateurs et leurs communications n’ont pas encore été établies. Les critiques estiment que l’évaluation intégrée pourrait permettre au secteur de l’IA de se contrôler lui-même, mais Anthropic affirme que cet arrangement rendra sa responsabilité plus vérifiable plutôt que de la réduire.
techcrunch