Les chercheurs de DeepMind proposent l'« Intelligence Symbiotique Artificielle » comme alternative à la singularité
decoder ·
Les chercheurs de DeepMind Benjamin Bratton, Blaise Agüera y Arcas et James Manyika proposent l'« Intelligence Symbiotique Artificielle » comme alternative au concept traditionnel de singularité technologique. Ils soutiennent que l'intelligence artificielle générale émergera de systèmes sociaux où les humains et les agents d'IA collaborent, plutôt que de machines superintelligentes isolées. Cette perspective est étayée par des observations indiquant que les modèles de raisonnement développent naturellement des comportements multi-perspectives lors de leur entraînement, sans programmation explicite. Les auteurs suggèrent qu'à mesure que le nombre d'instances d'agents d'IA augmente tandis que la population humaine diminue, la société pourrait atteindre un point de basculement cognitif comparable à la Révolution Industrielle. Dans ce nouveau paradigme, les agents d'IA sont considérés comme des assemblages temporaires et décomposables d'outils et de rôles, plutôt que comme des entités dotées d'identités fixes ou d'un moi continu. Par conséquent, les interfaces futures pourraient passer des chats individuels aux diagrammes de réseaux visuels, permettant aux utilisateurs de coordonner des essaims d'agents. Les chercheurs soulignent que la gouvernance et les cadres institutionnels sont cruciaux pour gérer ces interactions complexes, car les marchés seuls ne peuvent pas traiter les nuances sociales telles que la vertu ou la culpabilité. En définitive, l'alignement est redéfini comme une négociation continue façonnée par les institutions, plutôt que comme une imposition statique de valeurs sur des modèles individuels.
decoder