Estos expertos en IA quieren realizar investigaciones de alto riesgo abiertamente
wired ·
Trillium Labs, una nueva organización sin fines de lucro fundada por los investigadores de inteligencia artificial Nathan Lambert y Tom Zick, tiene como objetivo realizar investigaciones de alto riesgo sobre IA en abierto. A diferencia de los principales laboratorios de vanguardia que mantienen sus modelos bajo llave por razones de seguridad, Trillium planea publicar datos detallados de sus experimentos para permitir la supervisión y replicación externas. La organización se centrará en áreas controvertidas como la mejora recursiva propia, el comportamiento de agentes y técnicas posteriores al entrenamiento como el aprendizaje por refuerzo. Los fundadores argumentan que la transparencia es esencial para mitigar los riesgos asociados con sistemas de IA cada vez más potentes. Consideran que aislar la investigación impide que la comunidad científica en general contribuya a prácticas de desarrollo más seguras. Para apoyar esta misión, Trillium ha asegurado financiación de Schmidt Sciences y Halcyon Futures, con el objetivo de recaudar hasta 100 millones de dólares. El laboratorio pretende gastar aproximadamente 30 millones de dólares en entrenamiento durante los próximos 18 meses. En última instancia, los fundadores esperan restaurar el método científico en el desarrollo de IA fomentando la colaboración abierta y la comprensión compartida del comportamiento de los modelos.
wired