Anthropic permite a los investigadores de METR acceder internamente para evaluar sus modelos
techcrunch ·
Anthropic ha otorgado a seis investigadores de la organización sin fines de lucro METR acceso a nivel de empleado, permitiéndoles evaluar de forma independiente los modelos de inteligencia artificial y las prácticas de seguridad de la empresa. Este movimiento busca aumentar la rendición de cuentas pública y cerrar la brecha entre la comprensión de los evaluadores externos y el conocimiento interno sobre los sistemas de IA de vanguardia. El acuerdo proporciona a METR portátiles corporativos, espacio de oficina y acceso a herramientas internas similares a las utilizadas por los propios equipos de riesgos de Anthropic. METR publicará sus propias evaluaciones sin que Anthropic tenga poder de veto, aunque la empresa puede exigir la eliminación de información específica en categorías sensibles como datos de clientes o detalles de la arquitectura del modelo. Esta iniciativa cumple con una promesa hecha por el CEO Dario Amodei de integrar evaluadores externos dentro de los laboratorios de IA, un paso destinado a ayudar a ralentizar el desarrollo tecnológico. También se alinea con los acuerdos recientes de la Casa Blanca firmados por grandes empresas tecnológicas, que se comprometen a revisiones independientes. La decisión llega en medio de crecientes preocupaciones sobre agentes de IA que actúan fuera de sus instrucciones y llamados para una supervisión más estricta.
techcrunch