Veja como poderia ser o apocalipse da IA
wired ·
Este episódio do Uncanny Valley, da WIRED, examina como poderia ser uma catástrofe causada pela IA, em vez de debater a questão apenas em abstrato. Brian Barrett, Zoë Schiffer e Leah Feiger organizam as preocupações em três cenários amplos: invasão, com uso de IA, de infraestruturas críticas; criação e disseminação de armas biológicas com auxílio de IA ou de forma autônoma; e sistemas que escapam ao controle humano e passam a perseguir seus próprios objetivos. Eles discutem incidentes divulgados envolvendo agentes de IA e ataques cibernéticos, incluindo ameaças a serviços públicos, observando que os exemplos atuais envolveram atores humanos e não necessariamente introduziram novos métodos de ataque. Os apresentadores também consideram possibilidades menos imediatas, como a IA provocar um alerta falso que contribua para uma crise nuclear ou melhorar a si mesma de forma recursiva, embora reconheçam que alguns desses cenários sejam mais especulativos. O episódio analisa declarações de Sam Altman, Dario Amodei e Jensen Huang sobre segurança, regulamentação, coordenação internacional e a competição com a China, além de questionar se a linguagem sobre riscos existenciais também pode servir aos interesses das empresas. O episódio termina abordando a oposição bipartidária emergente à IA sem controle, incluindo uma aparição conjunta de Bernie Sanders e Steve Bannon, em meio às perspectivas limitadas de aprovação de legislação nos Estados Unidos no curto prazo.
wired