Anthropic se asocia con Accenture para la evaluación integrada
anthropic ·
Anthropic se asociará con la división especializada en IA de Accenture, Faculty, para realizar evaluaciones independientes de modelos de IA de vanguardia. El trabajo incluirá la evaluación de modelos y ejercicios de «red teaming», evaluaciones de alineación y pruebas de salvaguardas, aprovechando la experiencia de Accenture en implementaciones de IA empresariales y gubernamentales. Anthropic y Accenture prevén invertir cada una al menos 1.000 millones de dólares en desarrollar capacidad de evaluación durante los próximos cinco años. Los evaluadores integrados trabajarán dentro de empresas de IA con un acceso similar al de los empleados, lo que les permitirá observar el entrenamiento, examinar las decisiones de desarrollo e implementación, hablar con el personal, verificar los compromisos de seguridad, identificar puntos ciegos e informar de incidentes. Anthropic afirma que los evaluadores independientes reforzarán la verificabilidad de su rendición de cuentas, mientras que la responsabilidad por la seguridad de los modelos seguirá recayendo en Anthropic. Dado que todavía no se han establecido estándares ni sistemas de financiación a largo plazo, Anthropic financiará inicialmente de forma directa el trabajo de Accenture, al tiempo que conversa con METR y otros evaluadores sin ánimo de lucro, y espera que el enfoque no exclusivo evolucione hacia un ecosistema más amplio con estándares compartidos.
anthropic