Claude spiega come funzionerà il rilevamento dei suoi testi, e non è quello che ci aspettavamo

Anthropic ha spiegato come funzionerà la filigrana che Claude incorporerà nei testi che produrrà o che, in qualche modo, transiteranno dal servizio. Ora sappiamo che il segnale sarà nelle stesse decisioni di scrittura del modello, qualcosa di molto diverso dai caratteri nascosti e qualcosa che, per molti, cambia ciò che ci si aspetta da un modello linguistico.

Claude Scarica

Un’impronta statistica dentro la scelta delle parole

Secondo Anthropic, Claude utilizzerà una variante del sistema di SynthID-Text che Google ha reso disponibile agli sviluppatori già diversi mesi fa. L’idea di Anthropic è che quando più parole sono adatte a una frase, il sistema inclinerà statisticamente la scelta verso determinate opzioni seguendo una chiave segreta. Davanti a un testo che contenga un numero sufficiente di token, il che escluderà quelli più corti, Anthropic potrà rilevare la presenza del pattern che tale chiave lascia e da lì determinare il coinvolgimento di Claude nella stesura, nelle modifiche o nella correzione, ecc.

Anche la parola esatta fa parte del messaggio

Il punto è che, mentre Anthropic afferma che queste scelte mantengono il significato, la creatività e la leggibilità, e anche se la differenza può essere minima, trattare due parole corrette come pienamente intercambiabili va completamente contro ciò che significa saper scrivere. “Grigio” e “coperto”, gli esempi che fa Anthropic, possono descrivere lo stesso cielo, ma raccontano una realtà molto diversa.

Nella scrittura, la qualità dipende in gran parte dalla scelta della parola più precisa o direttamente quella che comunica la nostra intenzione —un LLM ne è capace?—. Aggiungere un’altra priorità, in questo caso lasciare una firma statistica, compromette, anche se in modo molto sottile, la ricerca della precisione in cui le IA sono già indietro rispetto agli umani.

Parte del problema, parte della soluzione

Anthropic prepara un’API per verificare i testi. Claude ha creato il problema, insieme ad altre IA, naturalmente, e ora ci vende la soluzione. Una mossa che ha attirato diverse critiche. Nel frattempo, se usiamo Claude, la filigrana entrerà nel modo stesso in cui viene scritto il testo, vedremo con quali risultati.