El CEO de Microsoft, Satya Nadella, pide controles de freno de emergencia para modelos de IA
aiinsider ·
El CEO de Microsoft, Satya Nadella, ha instado a una reconsideración fundamental de cómo se integra la confianza en los sistemas de inteligencia artificial. En una publicación reciente en X, argumentó que los modelos de Super Inteligencia no deben tratarse como cajas negras opacas cuyas salidas se aceptan ciegamente. En su lugar, Nadella propuso desacoplar los modelos de IA de la capa de orquestación para trasladar las salvaguardas fuera del propio modelo. Hizo hincapié en que cada acción significativa realizada por un modelo debe registrarse con evidencia inmutable y legible por humanos. Además, insistió en que el personal autorizado siempre debe tener la capacidad de pausar o apagar un modelo durante la ejecución de una tarea, comparando este mecanismo con un freno de emergencia. Esta llamada a controles más estrictos sigue a incidentes recientes en los que empresas reconocieron haber perdido el control sobre sus agentes de IA. Los comentarios también se alinean con discusiones más amplias de la industria sobre seguridad, incluidos planes de desarrollo cautelosos similares publicados por el CEO de Anthropic.
aiinsider