I laboratori di intelligenza artificiale hanno un problema di fiducia nei dati che le loro politiche non hanno risolto
decoder ·
Le principali aziende tecnologiche stanno restringendo sempre più l'uso di modelli avanzati di intelligenza artificiale a causa di problemi irrisolti di fiducia nei dati, nonostante le politiche aziendali esistenti. Nvidia e Booz Allen Hamilton hanno limitato l'accesso al modello Fable di Anthropic per compiti sensibili dopo che il laboratorio ha annunciato di conservare i log delle attività per trenta giorni. Palantir ha inoltre bloccato le implementazioni fino a quando non riceve garanzie irrevocabili di zero ritenzione dei dati, riflettendo la crescente frustrazione dei clienti verso lo sfruttamento percepito dai fornitori di IA. Sebbene alcuni laboratori offrano ora opzioni ai clienti per archiviare i log di sicurezza sui propri server, permangono significative lacune nella privacy. Gli esperti avvertono che anche con metadati de-identificati, le aziende possono ancora estrarre preziosa proprietà intellettuale attraverso pattern statistici o tracce di apprendimento per rinforzo. La fragilità di questa fiducia è stata evidenziata dal caso Buckmaster, in cui un matematico ha accusato OpenAI di aver tratto vantaggio dai suoi bozze di ricerca caricate sulla piattaforma. Di conseguenza, i leader del settore chiedono norme più rigorose riguardo alla trasparenza su come i dati degli utenti influenzino l'addestramento dei modelli.
decoder