Psicólogo de Harvard pede engenharia de segurança de IA sóbria em vez de retórica do fim dos tempos
decoder ·
O psicólogo de Harvard Steven Pinker publicou uma carta aberta a Scott Alexander, argumentando que os temores sobre os riscos existenciais da IA são exagerados. Pinker recusou um debate público sobre o tema, caracterizando tais eventos como meros esportes de espectador em vez de um discurso produtivo. Ele sustenta que cenários apocalípticos, como o experimento mental do 'maximizador de clipes', confundem erroneamente inteligência com desejo de dominação e assumem uma fixação irrealista em um único objetivo. Embora reconheça ter subestimado as capacidades rápidas dos grandes modelos de linguagem e as estratégias imprudentes de lançamento das empresas de tecnologia, Pinker permanece cético em relação às narrativas apocalípticas. Em vez de focar em ameaças de nível de extinção, ele identifica bioterrorismo, ciberataques e agentes de IA sem controle como os principais perigos que exigem atenção. Pinker defende uma engenharia de segurança sóbria baseada em supervisão independente, estruturas de responsabilidade civil e mecanismos de controle humano. Em resposta, Alexander mantém uma probabilidade de 20% de que a humanidade seja extinta pela IA e pede melhorias na pesquisa de segurança, juntamente com acordos regulatórios internacionais.
decoder