Os laboratórios de IA têm um problema de confiança nos dados que suas políticas não resolveram
decoder ·
Grandes empresas de tecnologia estão restringindo cada vez mais o uso de modelos avançados de IA devido a problemas não resolvidos de confiança nos dados, apesar das políticas corporativas existentes. A Nvidia e a Booz Allen Hamilton limitaram o acesso ao modelo Fable da Anthropic para tarefas sensíveis após o anúncio do laboratório de que manteria registros de uso por trinta dias. A Palantir também bloqueou implantações até receber garantias irrevogáveis de retenção zero de dados, refletindo a frustração generalizada dos clientes com a exploração percebida pelos provedores de IA. Embora alguns laboratórios agora ofereçam opções para que os clientes armazenem seus próprios logs de segurança em seus servidores, lacunas significativas de privacidade permanecem. Especialistas alertam que, mesmo com metadados desidentificados, as empresas ainda podem extrair propriedade intelectual valiosa por meio de padrões estatísticos ou rastros de aprendizado por reforço. A fragilidade dessa confiança foi destacada pelo caso Buckmaster, no qual um matemático acusou a OpenAI de se beneficiar de rascunhos de pesquisa enviados por ele. Consequentemente, líderes do setor estão exigindo normas mais rigorosas quanto à transparência sobre como os dados dos usuários influenciam o treinamento dos modelos.
decoder