Anthropic marca i testi di Claude: il watermark invisibile che cambia le regole sull'AI

C'è una firma nascosta nei testi che Claude scrive da qualche settimana. Non si vede, non si legge, non altera una virgola del contenuto — eppure è lì, intessuta nella struttura stessa delle parole. Anthropic ha introdotto un sistema di marcatura invisibile per gli output dei suoi modelli di intelligenza artificiale generativa, e la mossa segna un punto di svolta nel modo in cui i contenuti prodotti dall'AI potrebbero essere riconosciuti e tracciati in futuro.

L'annuncio risponde a un obbligo preciso: le disposizioni di trasparenza dell'Articolo 50 dell'AI Act europeo sono entrate in vigore quest'estate. Il regolamento comunitario sull'intelligenza artificiale impone ai fornitori di sistemi AI generativi — quelli che producono testo, immagini, audio e video — di incorporare marcature leggibili dalla macchina e di mettere a disposizione meccanismi di rilevamento. I modelli Claude lanciati nell'UE supportano già la marcatura fin dal primo momento; quelli precedenti hanno una finestra di tempo per adeguarsi, fissata dalle norme di attuazione del regolamento.

La scelta di Anthropic va però oltre la sola conformità normativa europea: la marcatura viene applicata a livello globale, su tutti gli output generati dall'API di Claude, dalle applicazioni proprietarie (Claude Code, Cowork, Tag) e da quelli accessibili tramite AWS, Google Cloud e Microsoft Foundry. In pratica, chiunque nel mondo usi Claude — non solo chi vive nell'Unione Europea — riceverà testi già «firmati».

Come funziona il watermark

Per il testo, la tecnica agisce sulla selezione dei cosiddetti token — unità di base che corrispondono approssimativamente a parti di parole — durante la fase di generazione. L'influenza su questa scelta crea un modello statistico rilevabile che costituisce il watermark: non un'etichetta esterna aggiunta in seguito, ma una proprietà intrinseca del testo. Anthropic assicura che il significato, la qualità e la leggibilità dell'output non vengono alterati.

Il segnale resiste alla copia e incolla, e può sopravvivere ad alcune modifiche. Non è però indistruttibile: una riscrittura sostanziale, una traduzione o la mescolatura con altro testo possono indebolirlo o eliminarlo del tutto. Anche la lunghezza conta — i passaggi inferiori a 200 token potrebbero non contenere dati sufficienti per una marcatura affidabile. Per i file immagine in formato .svg, .png e .jpg, viene invece utilizzato lo standard aperto C2PA, che incorpora metadati di provenienza firmati digitalmente: registrano come il file è stato creato e se è stato manomesso. Questi metadati sono però più vulnerabili: bastano un salvataggio in formato diverso, una conversione o anche uno screenshot per rimuoverli.

Al momento il rilevamento è binario: il watermark c'è oppure non c'è. Una presenza segnala che il contenuto potrebbe essere stato elaborato da Claude, ma non certifica che Claude ne sia l'unico autore; al contrario, l'assenza del watermark non prova che il testo sia stato scritto da un essere umano. Anthropic ha annunciato che renderà disponibili strumenti di rilevamento, inclusa una futura API dedicata, ma i dettagli tecnici e i tempi non sono ancora stati precisati.

L'azienda si è unita a un gruppo numeroso di grandi operatori del settore — tra cui Google, Meta, Microsoft, Mistral e OpenAI — che hanno sottoscritto il Codice di Condotta sulla Trasparenza dei Contenuti Generati dall'AI. Non tutte, però, si trovano allo stesso punto. Google applica la filigrana alle immagini generate dall'AI dal 2023 e ha esteso la pratica a testo, audio e video con il proprio sistema SynthID. OpenAI utilizza il watermark invisibile per immagini e audio, ma non ha ancora implementato una soluzione analoga per i testi generati da ChatGPT.

Le sanzioni per chi non rispetta l'AI Act sono tutt'altro che simboliche: il regolamento prevede multe che possono raggiungere decine di milioni di euro o percentuali significative del fatturato annuo mondiale, calibrate in base alla gravità della violazione. I valori esatti dipendono dalla specifica infrazione e saranno applicati dalle autorità nazionali competenti secondo le disposizioni del testo normativo.

Sul fronte degli utenti, la reazione è stata tutt'altro che uniforme. Sui social media sono emerse preoccupazioni da parte di chi usa Claude per rivedere testi propri, scrivere codice o integrare suggerimenti AI nel proprio lavoro: in questi casi, la presenza del watermark potrebbe segnalare un coinvolgimento dell'AI anche in contenuti che l'utente considera essenzialmente suoi. Il dibattito su dove finisce l'assistenza e dove inizia la paternità è aperto, e la marcatura obbligatoria lo rende improvvisamente molto concreto.