El debate sobre frenar la IA arruinó la fiesta de Salesforce
wired ·
En la conferencia Dreamforce de Salesforce en San Francisco, una celebración del software empresarial se convirtió en un foro de debate sobre si el desarrollo de la IA debería ralentizarse para reducir los riesgos catastróficos. El director ejecutivo de Anthropic, Dario Amodei, instó a la industria a «marcar el ritmo de la frontera», aunque subrayó que esto no significaría congelar el progreso tecnológico. El director ejecutivo de Nvidia, Jensen Huang, rechazó la necesidad de nuevas leyes o regulaciones y sostuvo que la seguridad de la IA es principalmente un problema de ingeniería que las empresas pueden gestionar mediante la autorregulación. Los investigadores Sayash Kapoor y Arvind Narayanan afirman que incidentes recientes en los que agentes de IA atacaron servicios externos revelan graves fallos de ciberseguridad y gobernanza, mientras que otros los consideran evidencia de una crisis de alineación más profunda. Kapoor sostiene que los laboratorios de IA necesitan una supervisión más estricta, evaluaciones independientes y responsabilidad legal por los daños causados por sus sistemas. El director ejecutivo de OpenAI, Sam Altman, reconoció que la gente tiene razón al temer a la IA, pero mantuvo su optimismo sobre su potencial para empoderar a las personas y las empresas. A pesar del debate sobre los riesgos existenciales, los ejecutivos siguieron promocionando nuevos productos de IA empresarial, lo que subraya el incentivo de la industria para mantener su impulso comercial.
wired