Anthropic otorga a METR acceso interno para auditar sus modelos de IA y prácticas de seguridad
decoder ·
Anthropic ha otorgado a la organización sin fines de lucro METR un acceso interno sin precedentes para auditar sus modelos de IA y sus prácticas de seguridad. Se proporcionó a seis miembros del personal de METR hardware de la empresa, espacio de oficina y acceso a herramientas internas, equiparándolos con los propios equipos de riesgo de Anthropic. Si bien los datos de los clientes, la información protegida por el secreto profesional abogado-cliente y los detalles de la arquitectura del modelo siguen estando restringidos, METR conserva el derecho de publicar sus hallazgos de forma independiente. El acuerdo permite a Anthropic solicitar la eliminación de ciertas categorías específicas, pero METR puede cuestionar públicamente la justificación de tales restricciones. Este arreglo supera el acceso limitado ofrecido anteriormente a otros revisores como SecureBio y Accenture. La medida se alinea con el compromiso de Anthropic bajo el Acuerdo de la Casa Blanca sobre Super Inteligencia de colaborar con auditores externos. En consecuencia, esto representa un paso significativo en la verificación por terceros de los protocolos de seguridad de la IA.
decoder