OpenAI prevede di addestrare i modelli sui dati delle sessioni di cybersecurity Daybreak Blue, precedentemente esclusi
decoder ·
OpenAI ha annunciato che inizierà a utilizzare i dati delle sessioni del suo programma di cybersecurity Daybreak Blue per addestrare i propri modelli, a partire dal 29 novembre. Questo cambiamento di politica segna una svolta significativa, poiché tali dati erano precedentemente esclusi dall'addestramento anche quando gli utenti avevano disattivato le impostazioni per il miglioramento dei modelli. La decisione ha scatenato un immediato backlask tra i membri di Trusted Access, spingendo OpenAI a inviare un'email di follow-up con un meccanismo di opt-out separato. Sebbene le interazioni segnalate durante le revisioni di sicurezza rimangano utilizzabili per scopi di sicurezza, l'inclusione più ampia dei dati delle sessioni ha sollevato preoccupazioni nella comunità della ricerca. Queste timore derivano dalla paura di una ripetizione dell'incidente Buckmaster-Alpöge, in cui i ricercatori sospettavano che il loro lavoro matematico non pubblicato fosse stato utilizzato senza consenso. Quella precedente controversia aveva evidenziato i potenziali rischi relativi alla proprietà intellettuale e alla fiducia tra sviluppatori di intelligenza artificiale e collaboratori esterni. Di conseguenza, la nuova politica mira a bilanciare il miglioramento dei modelli con il controllo degli utenti, sebbene lo scetticismo rimanga elevato.
decoder