OpenAI introdurrà nell’Unione europea una filigrana invisibile nei testi generati da ChatGPT e Codex. Il rollout inizierà gradualmente nelle prossime settimane e riguarderà gli utenti idonei dei diversi piani disponibili nell’UE.
La novità nasce per adeguarsi agli obblighi di trasparenza previsti dall’AI Act europeo, che richiede ai fornitori di sistemi generativi di rendere i contenuti artificiali identificabili in formato leggibile dalle macchine. :chatgpt-content-reference{index=”0″}
Non sono caratteri nascosti
La tecnologia sviluppata da OpenAI si chiama textGrain. Il watermark non consiste in simboli nascosti, spazi invisibili o punteggiatura particolare.
Il sistema modifica leggermente la probabilità con cui il modello sceglie determinate parole o frammenti di parola durante la generazione. Nel complesso queste scelte producono un segnale statistico invisibile al lettore, ma rilevabile da uno strumento dedicato. :chatgpt-content-reference{index=”1″}
Cosa può rilevare davvero
Il watermark può indicare che un testo contiene segnali compatibili con un output generato o elaborato da un sistema OpenAI. Non permette però di sapere chi abbia utilizzato ChatGPT, quali prompt siano stati inseriti o quanto del contenuto sia stato successivamente modificato da una persona.
OpenAI avverte inoltre che la tecnologia non è infallibile: testi brevi, riscritture importanti o modifiche successive possono rendere più difficile l’individuazione del segnale e sono possibili sia falsi positivi sia falsi negativi. :chatgpt-content-reference{index=”2″}
Il detector non sarà aperto a tutti
Al momento OpenAI non prevede di rendere pubblico il rilevatore. L’accesso sarà inizialmente limitato a ricercatori e organizzazioni specializzate approvate, con l’obiettivo di valutare l’affidabilità del sistema e migliorarne le prestazioni.
Per gli utenti delle API, invece, il watermarking è già disponibile a livello globale per alcuni modelli, ma resta disattivato per impostazione predefinita e deve essere abilitato volontariamente. :chatgpt-content-reference{index=”3″}
Perché arriva prima nell’Unione europea
L’introduzione regionale è legata all’articolo 50 dell’AI Act, che impone che testi, immagini, audio e video generati artificialmente siano marcati in maniera tecnicamente rilevabile, nei limiti di ciò che è possibile con le tecnologie disponibili.
OpenAI ha quindi scelto di partire dall’UE senza rendere, almeno per ora, il watermark testuale uno standard globale per tutti gli utenti. :chatgpt-content-reference{index=”4″}
La conseguenza pratica è che un testo generato da ChatGPT in Europa potrà contenere un segnale invisibile di provenienza. Non sarà però una firma digitale personale né una prova certa di paternità: servirà soprattutto a migliorare la tracciabilità dei contenuti generati dall’intelligenza artificiale.
OpenAI — Text provenance nell’UE
·
Approfondimenti
Questa innovazione rappresenta un passo significativo verso una maggiore trasparenza nell’uso dell’intelligenza artificiale, specialmente in un contesto normativo sempre più stringente come quello dell’Unione europea.
Implicazioni per la Trasparenza dei Contenuti
L’introduzione delle filigrane invisibili ChatGPT mira a migliorare la trasparenza dei contenuti generati dall’intelligenza artificiale. Questo sistema consente di identificare i testi che potrebbero essere stati creati o modificati da ChatGPT, senza però rivelare dettagli specifici sull’utente o sul processo di creazione. La capacità di rilevare queste filigrane invisibili ChatGPT potrebbe aiutare le organizzazioni a monitorare l’uso dell’IA nei contenuti pubblicati, garantendo che le informazioni siano tracciabili e conformi alle normative vigenti.
Limitazioni e Sfide del Sistema
Nonostante i vantaggi, il sistema di filigrane invisibili ChatGPT presenta alcune limitazioni. La tecnologia non è infallibile e può generare falsi positivi o negativi, specialmente in testi brevi o ampiamente modificati. Inoltre, il rilevatore non sarà immediatamente disponibile al pubblico, limitando l’accesso a ricercatori e organizzazioni specializzate. Questo potrebbe rallentare l’adozione su larga scala e sollevare questioni sulla sua efficacia pratica. Tuttavia, l’implementazione di filigrane invisibili ChatGPT rappresenta un primo passo verso una maggiore responsabilità nell’uso dell’IA.
Prospettive Future
Guardando al futuro, l’adozione delle filigrane invisibili ChatGPT potrebbe espandersi oltre l’Unione europea, man mano che le normative globali sull’IA si evolvono. L’AI Act europeo potrebbe fungere da modello per altre regioni, spingendo per una standardizzazione delle pratiche di trasparenza nell’uso dell’intelligenza artificiale. Con il tempo, l’affinamento della tecnologia textGrain e l’espansione del suo utilizzo potrebbero portare a una maggiore fiducia nei contenuti generati dall’IA, promuovendo un uso più etico e responsabile di queste tecnologie avanzate.
