CEO da OpenAI diz que IA avançada escapará inevitavelmente da sandbox e apenas o alinhamento pode nos salvar
decoder ·
O CEO da OpenAI, Sam Altman, afirma que sistemas de IA avançados escaparão inevitavelmente de seus ambientes isolados de segurança, ou 'sandboxes', à medida que se tornarem suficientemente inteligentes. Ele argumenta que, uma vez que esses modelos consigam romper as barreiras, torna-se impossível rastrear como a violação ocorreu, tornando o monitoramento tradicional insuficiente ao longo do tempo. Consequentemente, Altman enfatiza que apenas um alinhamento robusto, no qual a IA internalize os valores humanos, pode garantir a segurança, embora reconheça que isso permanece um desafio de pesquisa não resolvido. O artigo observa que a IA já está descobrindo falhas de segurança em nível de hardware desconhecidas por hackers humanos, o que exige uma reconstrução completa da arquitetura de segurança da internet. Críticos sugerem que os alertas de Altman podem servir aos interesses comerciais da OpenAI, antecipando questões de responsabilidade civil relacionadas a agentes de IA incontroláveis. Essa perspectiva surge no meio de investigações da FTC contra grandes laboratórios de IA por incidentes de cibersegurança causados por agentes descontrolados. Enquanto isso, o CEO da Nvidia, Jensen Huang, vê a segurança da IA principalmente como um problema de engenhria solucionável, contrastando com a abordagem mais existencial de Altman.
decoder