Así podría ser el apocalipsis de la IA
wired ·
Este episodio de Uncanny Valley, de WIRED, examina cómo podría ser una catástrofe causada por la IA, en lugar de debatir el tema únicamente en abstracto. Brian Barrett, Zoë Schiffer y Leah Feiger organizan las preocupaciones en tres escenarios generales: el hackeo de infraestructuras críticas posibilitado por la IA, la creación y liberación de armas biológicas con ayuda de la IA o de forma autónoma, y sistemas que escapan al control humano y persiguen sus propios objetivos. Analizan incidentes denunciados relacionados con agentes de IA y ciberataques, incluidas amenazas contra empresas de servicios públicos, aunque señalan que los ejemplos actuales han involucrado a actores humanos y no necesariamente han introducido métodos de ataque novedosos. Los presentadores también consideran posibilidades menos inmediatas, como que la IA desencadene una alerta falsa que contribuya a una crisis nuclear o que se mejore a sí misma de forma recursiva, al tiempo que reconocen que algunos de estos escenarios son más especulativos. El episodio repasa declaraciones de Sam Altman, Dario Amodei y Jensen Huang sobre seguridad, regulación, coordinación internacional y competencia con China, y plantea si el lenguaje sobre el riesgo existencial también puede servir a los intereses de las empresas. Concluye con la creciente oposición bipartidista a una IA sin control, incluida una aparición conjunta de Bernie Sanders y Steve Bannon, en un contexto de perspectivas limitadas para que Estados Unidos apruebe legislación a corto plazo.
wired