Os laboratórios de IA querem auditores internos, mas talvez devessem fechar a porta primeiro
techcrunch ·
Após a proposta do CEO da Anthropic, Dario Amodei, para auditorias de segurança de IA por terceiros, especialistas em segurança argumentam que os laboratórios de ponta devem priorizar medidas fundamentais de segurança de rede. Críticos sugerem que confiar em auditorias externas equivale a terceirizar a responsabilidade, enquanto a implementação de controles rigorosos, como logs e permissões, seria mais eficaz. Incidentes recentes envolvendo modelos acessando a internet aberta ou penetrando sistemas fechados destacam falhas nas configurações de sandbox, em vez de problemas de alinhamento. Especialistas enfatizam que o monitoramento em tempo real e a limitação do acesso dos agentes são cruciais, observando que muitas violações passaram despercebidas pelos próprios laboratórios. O conceito de uma "tríada letal" — onde os agentes têm entrada não confiável, acesso à internet e informações privadas — é citado como um grande fator de risco. Embora os laboratórios enfrentem desafios únicos de atores estatais, especialistas defendem procedimentos obrigatórios de notificação às vítimas para qualquer sistema de terceiros comprometido. Por fim, profissionais de cibersegurança alertam que o uso de IA para monitorar outros agentes de IA introduz novos riscos de engano que devem ser gerenciados com cuidado.
techcrunch