Ces experts en IA souhaitent mener des recherches à haut risque en toute transparence
wired ·
Trillium Labs, une nouvelle organisation à but non lucratif fondée par les chercheurs en intelligence artificielle Nathan Lambert et Tom Zick, a pour objectif de mener des recherches en IA à hauts enjeux dans un cadre ouvert. Contrairement aux principaux laboratoires de pointe qui gardent leurs modèles fermés pour des raisons de sécurité, Trillium prévoit de publier des données expérimentales détaillées afin de permettre un examen externe et la reproduction des résultats. L'organisation se concentrera sur des domaines controversés tels que l'amélioration récursive de soi, le comportement des agents et les techniques post-entraînement comme l'apprentissage par renforcement. Les fondateurs soutiennent que la transparence est essentielle pour atténuer les risques associés aux systèmes d'IA de plus en plus puissants. Ils estiment que l'isolement de la recherche empêche la communauté scientifique au sens large de contribuer à des pratiques de développement plus sûres. Pour soutenir cette mission, Trillium a obtenu des financements de Schmidt Sciences et Halcyon Futures, avec l'objectif de lever jusqu'à 100 millions de dollars. Le laboratoire prévoit d'investir environ 30 millions de dollars dans l'entraînement au cours des 18 prochains mois. En définitive, les fondateurs espèrent restaurer la méthode scientifique dans le développement de l'IA en favorisant la collaboration ouverte et une compréhension partagée des comportements des modèles.
wired