Una actualización sobre evaluadores independientes
anthropic ·
Anthropic ha anunciado una expansión significativa de su marco de evaluación independiente al otorgar a METR, una organización sin fines de lucro especializada en la evaluación de modelos de inteligencia artificial avanzada, acceso similar al de los empleados. Este movimiento se alinea con el reciente compromiso de Anthropic de fortalecer la supervisión por terceros y con su firma del Acuerdo de la Casa Blanca sobre Super Inteligencia. La empresa busca cerrar la brecha de conocimiento entre sus equipos internos de seguridad y los auditores externos, proporcionando una visión profunda de los datos de entrenamiento, las salvaguardas y las evaluaciones de riesgo. Si bien METR conserva la libertad de publicar sus hallazgos sin poder de veto, Anthropic mantiene el derecho de censurar categorías sensibles específicas, como datos de clientes o información protegida por el secreto profesional abogado-cliente. Para gestionar este proceso, Anthropic está desarrollando un sistema de acceso de tres niveles para diversos evaluadores, que va desde investigaciones de alcance limitado hasta asociaciones integradas a fondo. Actualmente, SecureBio opera en el primer nivel revisando capítulos específicos de informes de riesgo, mientras que Accenture y Faculty participan en colaboraciones más amplias de alineación y pruebas de penetración (red-teaming). Otras organizaciones, como Hugging Face, están en conversaciones iniciales para su futura inclusión en esta robusta estructura de supervisión de seguridad.
anthropic