OpenAI confirma semanas de conversaciones sobre seguridad de IA con Anthropic y Google DeepMind
aiinsider ·
OpenAI ha confirmado que ha mantenido conversaciones de varias semanas sobre la seguridad de la inteligencia artificial con las empresas rivales Anthropic y Google DeepMind. Chris Lehane, jefe de política global de OpenAI, verificó esta coordinación mientras trabajaba con legisladores en Washington en temas relacionados con los riesgos catastróficos de la IA. Esta revelación sigue a un ensayo del CEO de Anthropic, Dario Amodei, quien instó a la industria a frenar colectivamente el desarrollo de la IA de vanguardia para prevenir resultados desastrosos. Figuras prominentes como Sam Altman, Demis Hassabis y Elon Musk han expresado su apoyo a la propuesta de Amodei. OpenAI planea unirse a Anthropic en la integración de evaluadores externos para monitorear la seguridad internamente, una medida destinada a abordar las preocupaciones antimonopolio sobre la supresión de la competencia. Las empresas también están trabajando, según se informa, hacia el establecimiento de un organismo de estándares de la industria para evaluar modelos avanzados y coordinar desaceleraciones si fuera necesario. A pesar de estos esfuerzos colaborativos, el presidente Trump ha descartado las preocupaciones sobre la seguridad de la IA, argumentando que ralentizar el desarrollo beneficiaría principalmente a China.
aiinsider