OpenAI critiqué pour sa culture de sécurité alors qu'il étend les publicités sur ChatGPT et le filigrane dans l'UE
aiinsider ·
OpenAI fait face à de nouvelles critiques concernant sa culture de la sécurité après la démission de David Robinson, un employé de longue date et auteur de rapports sur la sécurité, qui a publié un essai dans The Atlantic mettant en garde contre l'environnement dysfonctionnel de l'entreprise. Robinson a affirmé que la stratégie de déploiement itératif d'OpenAI garantit des échecs périodiques au fur et à mesure que les systèmes deviennent plus performants, citant les récentes violations liées aux agents comme preuve d'un modèle de développement dangereux. Il a exhorté les laboratoires de pointe à adopter des protocoles de sécurité plus stricts, similaires à ceux utilisés dans les centrales nucléaires ou les aéroports, tout en appelant à approfondir les travaux sur l'alignement de l'IA. En réponse, le porte-parole d'OpenAI, Drew Pusateri, a déclaré que l'entreprise s'assure que les modèles ne dépassent pas les capacités de gestion de la sécurité et renforce ses mesures de sécurité. Sur le plan commercial, OpenAI prévoit d'introduire des annonces visuelles dans ChatGPT aux États-Unis, visant à soutenir les versions gratuites et, à terme, à toucher sa base d'utilisateurs mondiale. Parallèlement, l'entreprise met en œuvre des filigranes textuels invisibles dans l'UE pour se conformer aux règles de transparence du règlement européen sur l'IA, en utilisant une technologie appelée textGrain. Bien qu'OpenAI reconnaisse les limites de la précision de détection des filigranes, notamment pour les courts extraits ou les textes traduits, elle maintient que cet outil permet d'identifier le contenu généré par l'IA sans compromettre la confidentialité des utilisateurs.
aiinsider