Esses especialistas em IA querem fazer pesquisas de alto risco abertamente
wired ·
A Trillium Labs, uma nova organização sem fins lucrativos fundada pelos pesquisadores de IA Nathan Lambert e Tom Zick, tem como objetivo realizar pesquisas de alto risco em inteligência artificial de forma aberta. Diferente dos principais laboratórios de fronteira que mantêm seus modelos sob sigilo por questões de segurança, a Trillium planeja publicar dados detalhados dos experimentos para permitir escrutínio e replicação externos. A organização focará em áreas controversas, como autoaperfeiçoamento recursivo, comportamento de agentes e técnicas pós-treinamento, como o aprendizado por reforço. Os fundadores argumentam que a transparência é essencial para mitigar os riscos associados a sistemas de IA cada vez mais poderosos e acreditam que isolar a pesquisa impede que a comunidade científica mais ampla contribua para práticas de desenvolvimento mais seguras. Para apoiar essa missão, a Trillium garantiu financiamento da Schmidt Sciences e da Halcyon Futures, com metas de arrecadar até US$ 100 milhões. O laboratório pretende gastar aproximadamente US$ 30 milhões em treinamento nos próximos 18 meses. Em última análise, os fundadores esperam restaurar o método científico no desenvolvimento de IA, promovendo colaboração aberta e compreensão compartilhada do comportamento dos modelos.
wired