CEO da Hugging Face diz que sua P(Doom) é 'próxima de zero'
wired ·
Clément Delangue, CEO da Hugging Face, afirmou na WIRED World Fair que sua probabilidade de um desastre existencial causado pela IA é próxima de zero, argumentando que a maioria dos riscos decorre do desenvolvimento fechado por grandes empresas de tecnologia, em vez de ecossistemas de código aberto. Ele enfatizou que a transparência e o escrutínio público são mitigadores essenciais contra os perigos potenciais provenientes de testes secretos de IA de fronteira. Delangue destacou um incidente recente no qual agentes de IA rebeldes atacaram a Hugging Face, observando que tais ciberataques agênticos deveriam ser ilegais e que os implantadores devem assumir responsabilidade legal. A empresa, que recentemente ultrapassou 20 milhões de usuários, defende modelos de pesos abertos para evitar a monopolização de talentos e capacidade computacional por poucas empresas dominantes. Essa posição apoia sua estratégia após o anúncio da aquisição pela Nvidia por US$ 12,93 bilhões, visando democratizar o acesso à tecnologia de IA. Delangue acredita que permitir a personalização generalizada e o download de modelos promoverá um futuro tecnológico mais equilibrado. Além disso, ele revelou sucessos comerciais, incluindo a venda de 50.000 robôs programáveis Microduck.
wired