OpenAI pide estándares internacionales para la IA que puede mejorar a sí misma
decoder ·
OpenAI aboga por la creación de normas internacionales sobre el desarrollo avanzado de la inteligencia artificial, centrándose específicamente en la mejora recursiva automática (RSI). Esta tecnología permite que los sistemas de IA automaticen la investigación necesaria para crear generaciones posteriores de IA, lo que podría acelerar el progreso a un ritmo sin precedentes. La empresa enfatiza que la RSI completamente autónoma no existe actualmente y que solo debería perseguirse una vez que se hayan establecido medidas de seguridad adecuadas. Sin salvaguardas maduras, existe el riesgo de que los humanos pierdan el control sobre el desarrollo de la IA, lo que daría lugar a sistemas menos alineados y más peligrosos. Para abordar estas preocupaciones, OpenAI propone que Estados Unidos lidere la creación de estándares técnicos globales aprovechando institutos nacionales existentes y organizaciones como CAISI e ISO. Estos estándares incluirían métodos de medición compartidos, protocolos de notificación de incidentes y reglas para la supervisión humana de la investigación automatizada. Un panel científico reciente de las Naciones Unidas ha hecho eco de estas preocupaciones, advirtiendo sobre la posible pérdida de control sobre enjambres de agentes autónomos. En consecuencia, la ONU ha sugerido marcos de cooperación internacional similares a los utilizados en la aviación, la energía nuclear y la ciberseguridad.
decoder