Podcasts · Ciao, Internet! con Matteo Flora
CLAUDE TI MARCHIA: come la AI firma i testi che scrive senza dirtelo... #1581
· 24 min
Episode CLAUDE TI MARCHIA: come la AI firma i testi che scrive senza dirtelo... #1581
Anthropic ha introdotto un watermark “invisibile” nei testi generati da Claude: una filigrana statistica che sopravvive al copia-incolla e che, con una chiave segreta, permette di stimare se un brano provenga dal modello. L’idea (attribuita allo schema proposto da Scott Aaronson) agisce durante la scelta delle parole: tra alternative quasi equivalenti, il modello viene spinto a selezioni coerenti con una funzione crittografica basata sul contesto recente. A parole sembra la soluzione al problema della trasparenza, anche in risposta alle richieste dell’AI Act UE e al cosiddetto Bruxelles Effect. Il punto però è che la filigrana è forte soprattutto nei “casi puri” (testo generato da zero e pubblicato tale e quale) e diventa debole proprio nei casi reali: correzioni leggere di stile e grammatica, documenti ibridi a strati (parti umane + parti IA), o semplici trasformazioni che spezzano la finestra di contesto. Inoltre nei testi a bassa entropia—definizioni tecniche, formule, diritto, e spesso anche codice—c’è meno libertà lessicale e il watermark è strutturalmente più fragile. Resta il nodo politico: chi controlla la chiave e la soglia di rilevazione controlla anche l’attribuzione. Senza numeri pubblici su falsi positivi e soglie minime, il “rilevato dal watermark” rischia di diventare un sospetto vestito da prova, con conseguenze concrete in scuole, redazioni e tribunali. 00:00 La firma invisibile di Claude 02:05 Come funziona il watermark 04:00 AI Act e Brussels Effect 06:15 Cosa c’è di buono 07:40 Correzioni e casi ibridi 10:12 Traduzioni e definizioni ambigue 12:54 Come distruggerlo facilmente 15:01 Chiave segreta e rischi #Claude #Anthropic #AIACT ~~~ Ciao Internet! - Il primo e più seguito canale di TECH POLICY in italia, con Matteo Flora INFO E AZIENDE: https://matteoflora.com Il CORSO di AI: https://zero.matteoflora.com Newsletter: https://link.mgpf.it/nl Social: https://io.matteoflora.com English: https://www.youtube.com/@CiaoInternet Privacy » https://privacy.matteoflora.com AI Policy » https://privacy.matteoflora.com/ai Mail #adv: sales (at) matteoflora.com
Links in the notes 7
Transcript
Shows are listed from Apple Podcasts' charts and directory, and Podcast Index where it is used. Every show and episode belongs to its publisher and plays from the publisher's own feed; this site hosts none of them. Explicit shows are for adult profiles only, and children’s profiles hear only children’s shows. More about this list.