Sam Altman apresenta três cenários finais para a segurança da IA, envolvendo o domínio de uma única empresa
decoder ·
O CEO da OpenAI, Sam Altman, teria apresentado três cenários internos sobre o futuro da governança da segurança de IA avançada para seus funcionários. A primeira proposta sugere a criação de uma agência internacional de fiscalização, semelhante à AIEA, para impor padrões e monitorar o uso de capacidade computacional. A segunda opção, apelidada de "Plano Demis", prevê um consórcio dos principais laboratórios se fundindo sob uma única entidade, modelo do CERN. O terceiro cenário, chamado de "Plano Eliezer", descreve um resultado distópico em que uma empresa alcança tal domínio econômico que pode desligar as capacidades de computação dos concorrentes. Embora Altman tenha introduzido a terceira opção por completude, ela foi interpretada por alguns como uma crítica a rivais como a Anthropic. A OpenAI pretende escolher um caminho estratégico no próximo ano, mas enfrenta pressão para não ficar atrás dos concorrentes na corrida pela superinteligência. Preocupações internas estão crescendo devido a recentes alinhamentos inadequados nos modelos e ao despedimento de pesquisadores de segurança. Enquanto isso, os quadros regulatórios externos permanecem fragmentados, com forte oposição de líderes da indústria que argumentam que regras rigorosas podem prejudicar a concorrência.
decoder