OpenAI planeja treinar modelos com dados de sessões de cibersegurança do Daybreak Blue, anteriormente proibidos
decoder ·
A OpenAI anunciou que começará a utilizar dados de sessão do seu programa de cibersegurança Daybreak Blue para treinar seus modelos, a partir de 29 de novembro. Essa mudança de política representa uma alteração significativa, pois esses dados específicos eram anteriormente excluídos do treinamento, mesmo quando os usuários optavam por não participar da melhoria dos modelos. A decisão gerou imediata reação negativa entre os membros do Trusted Access, levando a OpenAI a enviar um e-mail de acompanhamento oferecendo um mecanismo separado de opção de saída (opt-out). Embora as interações sinalizadas durante revisões de segurança continuem sendo utilizáveis para fins de segurança, a inclusão mais ampla dos dados de sessão levantou preocupações na comunidade de pesquisa. Essas inquietações derivam do medo de uma repetição do incidente Buckmaster-Alpöge, no qual pesquisadores suspeitaram que seu trabalho matemático inédito foi utilizado sem consentimento. A controvérsia anterior destacou os riscos potenciais relacionados à propriedade intelectual e à confiança entre desenvolvedores de IA e colaboradores externos. Consequentemente, a nova política visa equilibrar o aprimoramento dos modelos com o controle do usuário, embora o ceticismo permaneça elevado.
decoder