Anthropic ha annunciato l’introduzione di sistemi destinati a rendere riconoscibili i contenuti generati da Claude. La novità assume un interesse particolare per i testi, perché la marcatura non si presenta al lettore come un’avvertenza, un simbolo o una dicitura apposta al documento. Si tratta di un meccanismo pensato per consentire l’identificazione automatica dell’origine artificiale del contenuto senza modificarne la normale leggibilità.
Il tema del watermarking dei testi generati dall’intelligenza artificiale è da tempo oggetto di ricerca e Anthropic vi ha dedicato specifica attenzione anche nella propria documentazione sulla trasparenza dei modelli. La questione è divenuta oggi più concreta anche per effetto della disciplina europea, che impone ai fornitori di determinati sistemi di IA obblighi diretti a rendere identificabili, anche in formato leggibile automaticamente, i contenuti generati o manipolati artificialmente.
Per comprendere la portata della soluzione occorre anzitutto liberarsi dall’immagine tradizionale del watermark. Non stiamo parlando della filigrana che compare sopra una fotografia, né, per quanto riguarda il testo, di un’informazione semplicemente registrata nelle proprietà di un file. Un testo generato in una chat può essere copiato in Word, inserito in una e-mail, pubblicato su un sito o trasferito in qualsiasi altro ambiente. Se l’informazione sulla sua origine fosse affidata esclusivamente ai metadati del file, questo passaggio sarebbe normalmente sufficiente a interrompere il collegamento con il sistema che lo ha prodotto.
Il watermark testuale cerca di affrontare proprio questo problema. Il segnale viene associato al processo di generazione in modo che possa essere ricercato nel testo anche dopo il trasferimento in un altro ambiente. Anthropic non ha reso pubblici tutti i dettagli tecnici necessari per ricostruire il funzionamento del proprio sistema e sarebbe quindi improprio attribuirgli, allo stato, caratteristiche algoritmiche non espressamente documentate. È però noto il principio sul quale si fondano le principali tecniche di watermarking studiate per i modelli linguistici.
Un modello come Claude costruisce il testo progressivamente. Per ciascun passaggio valuta una pluralità di token possibili e attribuisce loro differenti probabilità. Il processo di generazione può essere orientato, entro margini sufficientemente piccoli da non compromettere la qualità del risultato, affinché la successione delle scelte presenti determinate proprietà statistiche. Su una quantità adeguata di testo, tali proprietà possono essere successivamente ricercate da un sistema appositamente predisposto.
Il lettore continuerebbe quindi a leggere un testo del tutto normale. Non occorrerebbe inserire strani caratteri Unicode, spazi invisibili o sequenze nascoste facilmente eliminabili. Il segnale potrebbe dipendere dalla stessa successione delle scelte linguistiche operate durante la generazione.
Questo spiega perché il semplice copia e incolla non costituisca necessariamente un mezzo per eliminare la marcatura. Se viene conservata la sequenza testuale, vengono conservate anche le caratteristiche sulle quali si basa la sua eventuale rilevazione. Il discorso cambia quando il testo viene modificato in maniera significativa. Una parafrasi estesa, una traduzione, la riscrittura di numerosi periodi o una nuova elaborazione mediante un altro modello possono incidere sul segnale originario e ridurne o impedirne la rilevabilità.
Occorre perciò molta cautela quando si parla di “firma” dell’intelligenza artificiale. L’espressione è efficace per spiegare il fenomeno, ma rischia di suggerire proprietà che un watermark statistico non possiede.
Una firma digitale consente di verificare mediante strumenti crittografici l’integrità di un documento e il collegamento con il certificato utilizzato per sottoscriverlo. La modifica del documento produce conseguenze tecnicamente verificabili sulla firma. Il watermark di un testo generato da un modello opera su un piano diverso: può fornire un’indicazione circa la provenienza del contenuto o l’intervento di un determinato sistema generativo, nei limiti di affidabilità propri della tecnologia utilizzata.
Ed è qui che la questione diventa particolarmente interessante per il giurista.
Si immagini un avvocato che utilizzi Claude per predisporre una prima bozza di un atto. Il professionista verifica le fonti, modifica l’impostazione, elimina alcuni argomenti, ne aggiunge altri, riscrive parti del testo e infine sottoscrive l’atto assumendone integralmente la responsabilità professionale. L’eventuale presenza di una marcatura riconducibile al modello potrebbe indicare che Claude ha partecipato alla formazione del testo. Non consentirebbe, da sola, di ricostruire quale sia stato il contributo effettivo dell’intelligenza artificiale né, soprattutto, quale parte dell’elaborazione intellettuale appartenga al professionista.
La situazione sarebbe completamente diversa nel caso di un atto integralmente generato dal modello, non verificato e depositato così come prodotto. Tra questi due estremi esistono poi tutte le possibili forme intermedie di utilizzazione dell’IA: ricerca, sintesi documentale, organizzazione degli argomenti, controllo della coerenza, revisione linguistica, formulazione di obiezioni, predisposizione di singoli passaggi o rielaborazione di testi già scritti dal professionista.
Ridurre situazioni tanto diverse alla constatazione che un documento “è stato scritto dall’IA” finirebbe per fornire un’informazione solo apparentemente precisa.
L’autorialità di un testo non coincide infatti con la provenienza materiale di ogni singola frase. Un professionista può utilizzare strumenti molto sofisticati senza rinunciare alla paternità intellettuale del lavoro, quando rimangano suoi la selezione delle questioni, il ragionamento, la verifica delle fonti, le conclusioni e l’assunzione di responsabilità sul risultato. Allo stesso modo, la semplice sottoscrizione umana non trasforma in elaborazione professionale un contenuto prodotto automaticamente e recepito senza alcun controllo.
La questione acquista ulteriore rilievo alla luce dell’AI Act. L’art. 50 del Regolamento (UE) 2024/1689 prevede specifici obblighi di trasparenza e richiede ai fornitori di sistemi di IA che generano contenuti sintetici di assicurare che gli output siano contrassegnati in un formato leggibile automaticamente e rilevabili come artificialmente generati o manipolati. La norma guarda dunque anche alla possibilità tecnica di identificare il contenuto, senza affidare la trasparenza esclusivamente a una dichiarazione visibile resa dall’utilizzatore.
L’applicazione di queste tecnologie potrebbe avere conseguenze ancora più interessanti sul terreno probatorio. È facile immaginare che, una volta disponibili strumenti affidabili di rilevazione, il risultato dell’analisi venga prodotto per sostenere che un documento, una relazione, un elaborato accademico o persino un atto giudiziario siano stati generati mediante un determinato modello.
In quel momento non basterà sapere che il detector ha restituito un risultato positivo. Occorrerà conoscere il metodo utilizzato, il margine di errore, la percentuale di falsi positivi e di falsi negativi, la quantità minima di testo necessaria per ottenere un risultato attendibile, la capacità del sistema di resistere alle successive modificazioni e le condizioni nelle quali la rilevazione è stata effettuata. Sarà inoltre necessario distinguere l’identificazione di una traccia riconducibile al modello dall’attribuzione dell’intero documento alla sua attività generativa.
Un esito probabilistico non potrebbe essere trasformato, senza ulteriori verifiche, nell’affermazione categorica che un determinato soggetto non sia autore del testo esaminato. Tanto meno potrebbe bastare a ricostruire il procedimento attraverso il quale quel testo è stato elaborato.
Il watermarking apre quindi un problema che va ben oltre Claude. La regolamentazione europea e le scelte dei principali produttori sembrano muovere verso un ambiente digitale nel quale i contenuti sintetici conserveranno sempre più spesso informazioni sulla propria origine. Per le immagini e i contenuti audiovisivi questo processo è già in corso attraverso tecnologie di provenienza e autenticazione; per il linguaggio scritto presenta difficoltà maggiori, perché il testo viene continuamente copiato, corretto, tradotto, sintetizzato e rielaborato.
Sapere che un modello ha contribuito alla produzione di alcune parole può essere utile. Non dice però quanto abbia contribuito alla formazione del pensiero che quelle parole esprimono.
Per il diritto, e soprattutto per le professioni intellettuali, sarà questo il punto da affrontare. La questione non sarà stabilire soltanto se sia stata utilizzata l’intelligenza artificiale, ma comprendere come sia stata utilizzata, quale parte del processo intellettuale le sia stata affidata, quali controlli siano stati effettuati e chi abbia assunto la responsabilità del risultato finale.
Fonte: How Claude marks AI-generated content | Claude Help Center https://share.google/7KlDwbhvOPtQDRBlz
Lascia un commento