Ricordate la foto di Papa Francesco con un piumino bianco da trapper? È un deepfake generato dall’intelligenza artificiale, che ha fatto milioni di click e scatenato polemiche per il Pontefice che girava con un piumino di lusso.
E i vari scandali di foto hard di parlamentari italiane, inclusa la premier Giorgia Meloni? Anche quelle erano un deep fake, tutte false.
Le ultime app AI producono immagini impossibili da distinguere dal reale. Come pure video, audio e testi.
Ma dal 2 agosto 2026 diventa obbligatorio dichiarare se i contenuti sono stati generati dall’AI.
Indice degli argomenti
Un problema di fiducia
Lo sviluppo dei sistemi di IA generativa ha dissolto i confini tra contenuti di origine umana e contenuti sintetici. Tutti noi ci confrontiamo quotidianamente con interazioni automatizzate, deepfake, ignorando spesso la natura algoritmica dei loro produttori.
Questo scenario genera un grave rischio sociale ed economico. L’incapacità di distinguere il vero dal verosimile espone le democrazie e i mercati a campagne di disinformazione su larga scala, frodi finanziarie, furti di identità e truffe ai danno dei consumatori.
La fiducia è alla base della nostra società: che valore hanno le elezioni democratiche se le campagne elettorali si basano su video e dichiarazioni inventate? Quante truffe ai consumatori devono avvenire, prima che scatti nelle persone un rifiuto complessivo della tecnologia?
La soluzione: obblighi di trasparenza
L’entrata in vigore dell’Articolo 50 dell’AI Act, fissata per il 2 agosto 2026, risponde proprio a questa esigenza di fiducia, puntando a tutelare l’integrità dell’informazione.
La norma si applica a immagini, video, audio, testi.
Cosa devono fare provider e deployer
Le aziende che sviluppano sistemi di Intelligenza Artificiale (Provider) e le organizzazioni che li utilizzano per scopi professionali (Deployer) hanno l’obbligo di garantire la totale trasparenza sulle interazioni automatizzate e sui contenuti sintetici.
I fornitori (Provider) devono:
- Progettare i sistemi di IA in modo da garantire che le persone siano informate in modo esplicito ogni volta che interagiscono direttamente con un sistema di IA (come chatbot, assistenti vocali o agenti AI).
- Aggiungere marcatori leggibili meccanicamente (machine-readable) per consentire il rilevamento di contenuti generati o manipolati dall’IA.
Gli utilizzatori (Deployer) di sistemi di IA devono informare le persone quando queste sono esposte a:
- Deepfake, cioè contenuti che assomigliano a persone, luoghi o eventi reali apparendo falsamente autentici.
- Pubblicazioni di testi su questioni di interesse pubblico (politica, salute, ambiente) senza revisione umana o controllo editoriale.
Ad agosto scatterà anche l’obbligo per i deployer di informare le persone quando sono esposte strumenti di riconoscimento delle emozioni e di categorizzazione biometrica. Questo ovviamente non riguarda il tema deepfake, ma è uno degli usi ad rischio limitato per i quali scattano ora gli obblighi di trasparenza.
L’applicazione delle icone per segnalare i contenuti generati o manipolati dall’intelligenza artificiale varia in base al grado di intervento dell’algoritmo:
- l’icona di base “AI” viene impiegata quando l’IA è coinvolta nella creazione di deepfake (immagini, audio o video) e testi pubblicati, oppure quando si integrano etichette testuali personalizzate, come ad esempio la dicitura “voci generate con”.
- l’indicazione di contenuto completamente generato dall’IA “Fully AI-Generated” quando l’intera opera – che si tratti di video deepfake raffiguranti politici o eventi fittizi, composizioni artistiche e musicali, o riassunti di notizie – è creata interamente dal sistema senza alcun elemento o controllo editoriale umano
- Infine, la categoria parzialmente modificato dall’IA, “AI Modified”, si applica ai casi in cui un materiale preesistente e autentico subisce alterazioni artificiali che lo trasformano in un deepfake o in un testo di interesse pubblico; per esempio la sostituzione di un volto in una fotografia reale con quello di un politico, oppure l’inserimento di arredamento virtuale all’interno dello scatto autentico di un appartamento vuoto.
Da notare che questi obblighi riguardano gli utlizzatori professionali, restano esclusi gli usi personali, la ricerca scientifica, le indagini delle forze dell’ordine e le attività di standard editing (correzioni grammaticali, ridimensionamenti, filtri tecnici che alterano la semantica del contenuto).
I deepfake a scopo puramente creativo o satirico beneficiano poi di un regime di etichettatura alleggerito per preservare la fruizione dell’opera.
Le sanzioni
Ed arriviamo alle note dolenti.
Sono previste sanzioni salate in caso di non adempimento:
- Sanzioni fino a 15 milioni di euro, o fino al 3% del fatturato globale annuo per le imprese.
- Sanzioni fino a 750.000 euro per le istituzioni, gli organi e le agenzie dell’UE.
- Proporzionalità per le PMI (Piccole e Medie Imprese) e le SMC (imprese a piccola e media capitalizzazione).
L’obbligo di marcatura si applica dal 2 agosto 2026 per i nuovi sistemi.
Invece, i sistemi generativi immessi sul mercato prima del 2 agosto 2026 beneficiano di un periodo di tolleranza fino a dicembre 2026.
I deepfake generati prima del 2 agosto non sono assoggetati a marcatura retroattiva.
La reazione delle aziende
Questa norma si porta dietro un investimento di implementazione.
Lato tecnico, serve sviluppare watermark interoperabili e resistenti alle manomissioni. Sul fronte della governance interna, per garantire la conformità per l’etichettatura dei testi di interesse pubblico serve definire nuovi processi di human in the loop, dove le redazioni e gli uffici di comunicazione devono validare ogni output algoritmico.
Il ritorno di questo investimento è sicuramente reputazionale: la trasparenza consolida il valore del brand ed i consumatori premiano i marchi che dichiarano l’uso etico della tecnologia.
Allo stesso tempo, crea una barriera all’ingresso di player non europei, costretti ad adeguarsi (a patto che l’EU tenga salda la posizione, senza eccezioni).
La situazione in Cina e USA
L’Europa non è la prima ad inserire regole sui deep fake.
In Cina dal 2025 è obbligatorio inserire un watermark per i contenuti generati dall’intelligenza artificiale, con un sistema a doppio livello: un’etichettatura visibile, tramite loghi o diciture esplicite che informano in modo inequivocabile l’utente, e un tracciamento tecnico invisibile integrato nei metadati per garantire l’identificazione e l’origine del file (testo, immagine, audio o video).
I creatori di modelli IA devono inserire automaticamente queste marcature alla fonte, le piattaforme di distribuzione sono tenute a rilevarle ed esporle pubblicamente, ed è severamente vietato qualsiasi tentativo di rimozione o alterazione del contrassegno.
Diversa la situazione negli Stati Uniti, dove non esiste una legge federale unica e obbligatoria per il watermarking dei contenuti generati dall’intelligenza artificiale, ma c’è un sistema ibrido frammentato tra linee guida nazionali volontarie e obblighi legali stringenti imposti dai singoli Stati.
Non c’è una legge federale, ma sono stati emanati alcuni ordini esecutivi per incentivare lo sviluppo di standard tecnici sulla sicurezza e la trasparenza, secondo un principio volontaristico. L’implementazione pratica è quindi guidata dai giganti tecnologici (come OpenAI, Google, Meta, Adobe), che stanno adottando consorzi e standard crittografici.
La vera regolamentazione coercitiva si trova a livello statale, con la California nel ruolo di pioniere normativo. Con il California AI Transparency Act (SB 942), da agosto 2026
I fornitori di sistemi generativi dovranno inserire watermark invisibili (dati di provenienza) all’interno dei contenuti sintetici e visibili Inoltre le grandi piattaforme online dovranno mostrare etichette visibili agli utenti e gli sviluppatori di IA dovranno rilasciare strumenti (decoder) gratuiti affinché chiunque possa analizzare un file e verificarne l’origine artificiale.
Inizio a dare il buon esempio: lo ammetto, per scrivere questo articolo ho chiesto un aiutino a Gemini, per farmi riassumere tutta la nuova legislazione europea.
Partecipa alla community