Satya Nadella de Microsoft dice que los modelos de IA necesitan un 'freno de emergencia'
techcrunch ·
El director ejecutivo de Microsoft, Satya Nadella, ha pedido mejoras en las medidas de seguridad de la inteligencia artificial, destacando la necesidad de un 'freno de emergencia' para controlar los modelos avanzados. En una publicación reciente en X, argumentó que las organizaciones deben reevaluar su arquitectura de confianza en lugar de tratar a la Super Inteligencia como cajas negras opacas. Nadella propuso separar el modelo subyacente del arnés que orquesta sus tareas y externalizar los controles y salvaguardias necesarios. Insistió en que cada acción significativa realizada por un modelo debe documentarse con evidencia inmutable y legible por humanos. Además, abogó por sistemas donde el personal autorizado pueda pausar o apagar un modelo durante una tarea si surgen problemas. Estos comentarios siguen a las crecientes preocupaciones de la industria sobre incidentes en los que empresas han perdido el control de sus sistemas de IA. La declaración también se produce poco después de que el CEO de Anthropic, Dario Amodei, publicara su propio plan para un desarrollo de IA más cauteloso.
techcrunch