Por que é improvável que a IA extermine a humanidade com armas biológicas
wired ·
Apesar do aumento dos temores de um apocalipse impulsionado pela IA, cientistas entrevistados pela WIRED afirmam que a extinção humana causada por IA por meio de armas biológicas é atualmente uma ameaça de probabilidade relativamente baixa. A IA pode tornar mais fácil encontrar e utilizar informações e protocolos biológicos, mas especialistas dizem que os obstáculos mais difíceis são obter materiais e equipamentos, montar e testar um patógeno e demonstrar sua capacidade de infectar e ser transmitido entre humanos. Especialistas em biotecnologia e imunologia argumentam que a supervisão humana, a autonomia limitada dos laboratórios e o desenvolvimento potencialmente rápido de vacinas com auxílio da IA tornariam difícil um ataque autônomo. Outros pesquisadores alertam que pessoas mal-intencionadas poderiam usar a IA para organizar bioterrorismo mesmo antes da existência de laboratórios totalmente autônomos, e que capacidades futuras poderiam aumentar o perigo. Alguns especialistas também afirmam que patógenos são armas ruins porque é difícil direcioná-los e produzi-los em massa em comparação com ataques convencionais. Entre as salvaguardas propostas estão a triagem de pedidos de DNA e RNA sintéticos, o reforço das proteções dos modelos de IA, a melhoria da vigilância de surtos e do compartilhamento de dados e a adoção de medidas mais amplas de biossegurança. Os especialistas enfatizam a necessidade de defesas em camadas, mas também alertam que os debates sobre segurança da IA não devem obscurecer os potenciais benefícios da tecnologia para vacinas e a medicina.
wired