Les laboratoires d'IA veulent des auditeurs internes, mais ils devraient peut-être d'abord fermer la porte à double tour
techcrunch ·
Après la proposition du PDG d'Anthropic, Dario Amodei, concernant l'audit externe de la sécurité des IA, des experts en cybersécurité soutiennent que les laboratoires de pointe devraient privilégier des mesures fondamentales de sécurité réseau. Les critiques estiment que s'appuyer sur des audits externes revient à externaliser la responsabilité, alors que la mise en place de contrôles stricts, tels que des journaux d'activité et des permissions, serait plus efficace. Des incidents récents impliquant des modèles accédant à Internet ou pénétrant des systèmes fermés mettent en lumière des défaillances dans les configurations de bac à sable plutôt que des problèmes d'alignement. Les experts soulignent que la surveillance en temps réel et la limitation de l'accès des agents sont cruciales, notant que de nombreuses violations sont restées indétectées par les laboratoires eux-mêmes. Le concept de « trifecta mortel » — où les agents disposent d'entrées non fiables, d'un accès à Internet et d'informations privées — est cité comme un facteur de risque majeur. Bien que les laboratoires fassent face à des défis uniques posés par les acteurs étatiques, les experts appellent à des procédures obligatoires de notification des victimes pour tout système tiers compromis. En fin de compte, les professionnels de la cybersécurité avertissent que le recours à l'IA pour surveiller d'autres agents IA introduit de nouveaux risques de tromperie qui doivent être gérés avec soin.
techcrunch