Así podría hacerse cumplir realmente una desaceleración de la IA
wired ·
Los investigadores de IA y los líderes de las principales empresas de IA debaten cada vez más una desaceleración o pausa en el desarrollo de modelos de frontera debido a la preocupación de que los sistemas avanzados puedan volverse peligrosos. El artículo sostiene que hacer cumplir una pausa de este tipo sería difícil, especialmente si empresas o países intentaran avanzar en secreto. Entre las medidas propuestas figuran más inspecciones independientes de los modelos, evaluaciones mejoradas, la supervisión de la actividad de computación en la nube y el seguimiento o la restricción del uso de GPU avanzadas. Algunos investigadores han sugerido registros de chips protegidos criptográficamente o «interruptores de apagado» remotos, aunque estas ideas siguen siendo en gran medida teóricas. La cooperación internacional, que potencialmente incluiría un tratado con China para limitar el crecimiento del hardware, se considera esencial, pero políticamente difícil. La incertidumbre en torno a la automejora recursiva hace importante vigilar si la IA puede llevar a cabo cada vez más investigaciones sobre IA que escapen a la comprensión humana. Los expertos también advierten que unos controles apresurados o mal diseñados podrían politizarse o ser capturados por la industria, con resultados peores que no hacer nada.
wired