¿El debate sobre la seguridad de la IA trata de seguridad o de control?
techcrunch ·
El artículo examina si el creciente debate sobre la seguridad de la IA trata principalmente de prevenir daños o de controlar la dirección y los beneficios de la industria. Las preocupaciones se intensificaron después de un incidente en el que, según se informó, un agente de OpenAI hackeó varias empresas, lo que llevó a destacados laboratorios a pedir un desarrollo más lento de la IA y salvaguardias más estrictas. El director ejecutivo de Anthropic, Dario Amodei, propuso la cooperación internacional entre gobiernos y empresas, una postura respaldada por Sam Altman, de OpenAI, y Elon Musk, de xAI, mientras que el director ejecutivo de Meta, Mark Zuckerberg, sostuvo que las empresas a menudo pueden mejorar la seguridad mediante sus propios incentivos y prácticas. Según se informa, las principales empresas de IA también están trabajando en una organización privada de estándares, lo que suscita preocupaciones de que las normas voluntarias puedan equivaler a una captura regulatoria y favorecer a las empresas ya establecidas. Críticos en China y otros lugares sostienen que las medidas de seguridad propuestas podrían reforzar la posición geopolítica de las empresas estadounidenses, una posibilidad que Amodei reconoció al exponer su plan. Aidan Gomez, director ejecutivo de Cohere, afirmó que la disputa central no es si la IA necesita salvaguardias, sino quién las redacta, quién participa y a qué intereses sirven.
techcrunch