Veja como uma desaceleração da IA poderia ser realmente aplicada
wired ·
Pesquisadores de IA e líderes de grandes empresas do setor estão discutindo cada vez mais uma desaceleração ou pausa no desenvolvimento de modelos de fronteira, devido a preocupações de que sistemas avançados possam se tornar perigosos. O artigo argumenta que impor tal pausa seria difícil, especialmente se empresas ou países tentassem avançar em segredo. As medidas propostas incluem mais inspeções independentes de modelos, avaliações aprimoradas, monitoramento da atividade de computação em nuvem e rastreamento ou restrição do uso de GPUs avançadas. Alguns pesquisadores sugeriram registros de chips protegidos por criptografia ou “interruptores de desligamento” remotos, embora essas ideias permaneçam em grande parte teóricas. A cooperação internacional, potencialmente incluindo um tratado com a China para limitar o crescimento do hardware, é considerada essencial, mas politicamente desafiadora. A incerteza em torno do autoaperfeiçoamento recursivo torna importante monitorar se a IA pode cada vez mais conduzir pesquisas em IA para além da compreensão humana. Especialistas também alertam que controles apressados ou mal elaborados poderiam ser politizados ou capturados pela indústria, produzindo resultados piores do que não fazer nada.
wired