Anthropic et OpenAI veulent intégrer des évaluateurs de sécurité. Seront-ils vraiment indépendants ?
techcrunch ·
Les PDG d'Anthropic, Dario Amodei, et d'OpenAI, Sam Altman, ont proposé d'intégrer des évaluateurs tiers indépendants directement au sein de leurs entreprises d'IA pour surveiller la sécurité et l'alignement. Cette initiative accorderait aux chercheurs un accès sans précédent aux données d'entraînement, aux points de contrôle intermédiaires des modèles et aux journaux internes afin de détecter les comportements trompeurs qui pourraient passer inaperçus lors des tests finaux. Bien que cette proposition vise à accroître la transparence en permettant aux évaluateurs de publier leurs conclusions sans contrôle éditorial, les experts restent sceptiques quant à l'indépendance réelle de tels arrangements. Les critiques soulignent que les évaluations précédentes étaient souvent limitées par des délais serrés et des accords de non-divulgation restrictifs, ce qui restreignait la profondeur de l'examen. Certains chercheurs estiment que les mesures volontaires sont insuffisantes et appellent à des mandats législatifs pour garantir une responsabilisation cohérente dans toute l'industrie. Bien que des acteurs majeurs comme Meta, Google DeepMind et SpaceX ne se soient pas encore engagés sur ce modèle d'intégration spécifique, les lois existantes en Californie et dans l'Union européenne commencent à établir des cadres pour la vérification indépendante. Le succès de cette approche dépendra de la capacité des entreprises d'IA à céder véritablement le contrôle des informations sensibles et des processus d'évaluation.
techcrunch