OpenAI y Anthropic dicen a los legisladores británicos: regúlennos
wired ·
Representantes de OpenAI y Anthropic testificaron ante un comité parlamentario británico, argumentando que los compromisos voluntarios de seguridad son insuficientes y abogando por marcos estatutarios vinculantes y convenciones internacionales. Esta postura generó una clara división con rivales como Google DeepMind y Meta, que se opusieron a nueva legislación en favor de las normas existentes o de los reguladores. La audiencia puso de manifiesto las limitaciones del régimen regulatorio actual en el Reino Unido, ya que funcionarios civiles admitieron que el Instituto de Seguridad de IA depende totalmente de la cooperación de las empresas y carece de poderes de aplicación para evitar la liberación de modelos peligrosos. Simultáneamente, el director de MI5, Ken McCallum, advirtió sobre amenazas graves, incluido el potencial de la IA para facilitar la creación de nuevas bioweapons. Denunciantes internos de la industria reforzaron estas preocupaciones, sosteniendo que las empresas no pueden ser confiadas para autorregularse debido a las presiones competitivas. El presidente del comité, Liam Byrne, enfatizó la necesidad de exponer estos puntos de vista conflictivos entre las empresas adineradas para justificar una intervención gubernamental más fuerte. De cara al futuro, el comité planea aprovechar la próxima presidencia británica en el G20 para negociar una convención internacional de seguridad de IA independiente de los cambios políticos en Estados Unidos.
wired