Un ingegnere di Anthropic spiega perché la scrittura di Claude è peggiorata nonostante il modello sia diventato più intelligente
decoder ·
Un ingegnere di Anthropic, Jackson Kernion, spiega che sebbene le capacità di ragionamento di Claude siano migliorate, la qualità della sua scrittura è diminuita nelle versioni recenti. Questo deterioramento è attribuito all'ottimizzazione del modello per la matematica e il codice piuttosto che per il linguaggio naturale. Inoltre, i modelli più recenti sono stati addestrati a generare spiegazioni tecniche destinate ad altri sistemi di intelligenza artificiale, portando a uno stile che Kernion definisce "claudeiano". Egli paragona questo fenomeno alla comunicazione umana esclusiva con individui autistici, che risulta in una fraseologia densa e difficile da seguire per i lettori comuni. La causa radice risiede nelle strutture di ricompensa dell'apprendimento per rinforzo che privilegiano la comprensione da parte dell'IA rispetto alla leggibilità per gli esseri umani. Sebbene Opus 5.5 rappresenti un passo verso l'equilibrio di queste esigenze, Kernion nota che non supera la chiarezza stilistica del precedente modello Opus 4.6. Riconosce che risolvere questo compromesso rimane una sfida significativa per lo sviluppo futuro.
decoder