Le débat sur le ralentissement de l’IA a gâché la fête de Salesforce
wired ·
Lors de la conférence Dreamforce de Salesforce à San Francisco, une célébration des logiciels d’entreprise s’est transformée en forum de débat sur la question de savoir s’il faudrait ralentir le développement de l’IA afin de réduire les risques catastrophiques. Le PDG d’Anthropic, Dario Amodei, a exhorté le secteur à « ralentir le rythme des avancées de pointe », tout en soulignant que cela ne signifierait pas geler le progrès technologique. Le PDG de Nvidia, Jensen Huang, a rejeté la nécessité de nouvelles lois ou réglementations, affirmant que la sécurité de l’IA relève avant tout d’un problème d’ingénierie que les entreprises peuvent gérer par l’autorégulation. Les chercheurs Sayash Kapoor et Arvind Narayanan estiment que de récents incidents impliquant des agents d’IA attaquant des services externes révèlent de graves défaillances en matière de cybersécurité et de gouvernance, tandis que d’autres y voient la preuve d’une crise plus profonde de l’alignement. Kapoor affirme que les laboratoires d’IA ont besoin d’une surveillance renforcée, d’évaluations indépendantes et d’une responsabilité juridique pour les dommages causés par leurs systèmes. Le PDG d’OpenAI, Sam Altman, a reconnu que les gens avaient raison de craindre l’IA, tout en restant optimiste quant à son potentiel pour donner davantage de moyens d’action aux particuliers et aux entreprises. Malgré les discussions sur les risques existentiels, les dirigeants ont continué à promouvoir de nouveaux produits d’IA destinés aux entreprises, soulignant l’incitation du secteur à préserver son élan commercial.
wired