Google DeepMind lance un institut pour élargir le débat sur l’AGI
techcrunch ·
Des chercheurs de Google et de Google DeepMind ont lancé le DeepMind Institute afin de faire progresser le débat sur l’intelligence artificielle générale (IAG). Parmi ses directeurs figurent le cofondateur de DeepMind Shane Legg, le dirigeant de Google James Manyika et le président de Google DeepMind Demis Hassabis, Legg exerçant les fonctions de rédacteur en chef. L’institut affirme qu’il présentera des points de vue divergents de Google, de Google DeepMind et de l’ensemble de la communauté de recherche, en reconnaissant que ces points de vue peuvent évoluer à mesure que de nouvelles informations apparaissent. Ses quatre premiers essais portent sur les politiques visant à gérer les perturbations économiques potentielles, la préservation d’un raisonnement lisible des modèles, les principes favorisant l’épanouissement humain et les méthodes d’évaluation des modèles d’IA de pointe. L’un des essais soutient que le déclin de la transparence des modèles avancés n’est pas inévitable et exhorte les développeurs et les autorités de réglementation à s’attaquer aux compromis liés au suivi, tandis que Hassabis propose un organisme de normalisation dirigé par les États-Unis qui examinerait d’abord les modèles sur une base volontaire, avant d’éventuelles évaluations obligatoires. Ces propositions reflètent une évolution plus large du débat sur la sécurité de l’IA vers davantage de divulgation, un contrôle externe et de possibles ralentissements coordonnés du développement de l’IA de pointe.
techcrunch