¿El primer evaluador integrado de Anthropic es… Accenture?
techcrunch ·
Anthropic anunció que el personal de la división de IA de Accenture, Faculty, comenzará a trabajar dentro de la empresa para evaluar y someter a pruebas de seguridad los modelos, realizar evaluaciones de alineación y probar salvaguardas. Anthropic y Accenture prevén invertir al menos 1.000 millones de dólares en la iniciativa durante los próximos cinco años. La elección de Accenture sorprendió a algunos observadores de la IA, sobre todo porque las conversaciones sobre evaluadores integrados se habían centrado principalmente en organizaciones como METR, Redwood Research y Apollo Research. Anthropic dijo que planea anunciar más evaluadores y que está conversando con METR y otras organizaciones sin ánimo de lucro sobre proyectos piloto financiados por estas. La empresa citó la experiencia de Accenture en el despliegue de IA para empresas y gobiernos, así como su independencia por ser una gran empresa cotizada, aunque reconoció que todavía no se han establecido normas sobre el acceso de los evaluadores y la comunicación con ellos. Los críticos sostienen que la evaluación integrada podría permitir que la industria de la IA se supervise a sí misma, pero Anthropic afirma que el acuerdo hará que su rendición de cuentas sea más verificable, en lugar de reducirla.
techcrunch