Por qué es poco probable que la IA acabe con la humanidad con armas biológicas
wired ·
A pesar del aumento de los temores sobre un apocalipsis impulsado por la IA, los científicos entrevistados por WIRED afirman que la extinción humana causada por la IA mediante armas biológicas es actualmente una amenaza de probabilidad relativamente baja. La IA puede facilitar la búsqueda y el uso de información y protocolos biológicos, pero los expertos señalan que los principales obstáculos son obtener materiales y equipos, ensamblar y probar un patógeno, y demostrar que puede infectar y transmitirse entre seres humanos. Expertos en biotecnología e inmunología sostienen que la supervisión humana, la autonomía limitada de los laboratorios y el posible desarrollo rápido de vacunas asistido por IA dificultarían un ataque autónomo. Otros investigadores advierten que personas malintencionadas podrían utilizar la IA para organizar actos de bioterrorismo incluso antes de que existan laboratorios totalmente autónomos, y que las capacidades futuras podrían aumentar el peligro. Algunos expertos también afirman que los patógenos son armas deficientes porque son difíciles de dirigir contra objetivos específicos y de producir masivamente en comparación con los ataques convencionales. Entre las salvaguardas propuestas figuran examinar los pedidos de ADN y ARN sintéticos, reforzar las protecciones de los modelos de IA, mejorar la vigilancia de brotes y el intercambio de datos, y añadir medidas más amplias de bioseguridad. Los expertos hacen hincapié en las defensas por capas, pero también advierten que los debates sobre la seguridad de la IA no deberían ocultar los posibles beneficios de la tecnología para las vacunas y la medicina.
wired