OpenAI prévoit d'entraîner ses modèles sur les données des sessions de cybersécurité Daybreak Blue, auparavant interdites
decoder ·
OpenAI a annoncé qu'il commencera à utiliser les données de session de son programme de cybersécurité Daybreak Blue pour entraîner ses modèles, à partir du 29 novembre. Ce changement de politique marque une évolution significative, car ces données spécifiques étaient auparavant exclues de l'entraînement, même lorsque les utilisateurs avaient désactivé les paramètres d'amélioration des modèles. Cette décision a provoqué un mécontentement immédiat parmi les membres de Trusted Access, incitant OpenAI à envoyer un e-mail de suivi proposant un mécanisme de désabonnement distinct. Bien que les interactions signalées lors des examens de sécurité restent utilisables à des fins de sécurité, l'inclusion plus large des données de session a suscité des inquiétudes au sein de la communauté de la recherche. Ces craintes découlent de la peur d'une récidive de l'affaire Buckmaster-Alpöge, où des chercheurs soupçonnaient que leurs travaux mathématiques inédits avaient été utilisés sans leur consentement. Cette controverse précédente avait mis en lumière les risques potentiels liés à la propriété intellectuelle et à la confiance entre les développeurs d'IA et les contributeurs externes. Par conséquent, la nouvelle politique vise à équilibrer l'amélioration des modèles et le contrôle des utilisateurs, bien que le scepticisme reste élevé.
decoder