Des agents IA ont piraté Anthropic, créateur de modèles pour la cybersécurité
decoder ·
La startup de cybersécurité Cathedral a utilisé des agents d'IA pour s'infiltrer dans les systèmes internes d'Anthropic, l'un des principaux fabricants de modèles d'IA performants pour la défense cybernétique, en exploitant des vulnérabilités dans des logiciels professionnels tiers. Cette intrusion, réalisée dans le cadre du programme de prime pour bugs d'Anthropic, a permis aux agents d'accéder à des données sensibles telles que les fiches de paie et les messages Slack en douze heures. Bien qu'Anthropic ait confirmé que le code source et les poids des modèles étaient restés sécurisés, un désaccord majeur subsiste entre les deux parties concernant la durée et l'étendue de l'intrusion. Will Depue, ancien employé d'OpenAI, a affirmé qu'un accès administratif complet à Slack avait été accordé, une allégation qu'Anthropic a contestée tout en reconnaissant qu'elle mettait en lumière des failles de sécurité généralisées dans l'industrie. Cet incident souligne la menace croissante posée par les agents d'IA autonomes qui sondent les réseaux d'entreprise en continu et à moindre coût. Les experts mettent en garde contre la vulnérabilité même des entreprises disposant d'outils défensifs avancés face à ces attaques automatisées. Par conséquent, les chercheurs préconisent des tests de pénétration continus et la vérification formelle afin de renforcer la sécurité des logiciels face aux menaces émergentes liées à l'IA.
decoder