Oggi chi guarda un video online non può più dare per scontato che le immagini siano state registrate da una telecamera, perché i contenuti generati o alterati dall'intelligenza artificiale si moltiplicano nella rete. In questo passaggio della storia dell'informazione, la fiducia nelle immagini diventa una questione da verificare con strumenti nuovi, mentre l'Italia prova a fissare regole per un fenomeno che tocca la verità condivisa. Come spesso accade con le tecnologie che cambiano il rapporto tra vedere e credere, la risposta si muove su due fronti: riconoscere a posteriori il falso e certif
Deepfake, nuovi strumenti di rilevamento: Pangram segnala i frame generati dall'IA nei video
Rende plausibile il dubbio anche su un contenuto autentico
Mark
Cosa fa di nuovo lo strumento di Pangram?
Mimi
Non si limita a dire se un video è falso: segnala i singoli frame in cui è intervenuta l'IA, con una mappa di calore.
Mark
E distingue anche i video solo ritoccati?
Mimi
Sì, secondo l'azienda separa le clip parzialmente generate da quelle interamente create dall'IA.
Luke
Fermiamoci sul 98%. È un'accuratezza dichiarata dalla stessa Pangram, e l'articolo non cita test indipendenti.
Mimi
Giusto, va letto come dato dell'azienda.
Mark
Perché Vicenzotto parla di dubbio sull'autentico?
Mimi
Perché se i falsi sono facili da fare, anche chi è ripreso in un video vero può dire che è falso. Per questo la rilevazione serve anche alle perizie forensi.
Mark
E la C2pa come entra?
Mimi
Lavora a monte: etichette non modificabili su origine e modifiche del file, sostenute da Adobe, Microsoft, Google, Bbc e altri.
Luke
Ma l'articolo non dice quanto sia diffusa oggi, né come regga ai file privi di etichetta. Questo resta aperto.
Mimi
E sul piano legale, il d.lgs. 160/2026 porta il deepfake nella responsabilità degli enti, in vigore dal 30 settembre.
Der Puls
- Il rischio dei deepfake cresce mentre i video sintetici si diffondono sempre più velocemente online.
- Pangram lancia una mappa di calore che individua i singoli frame creati o alterati dall'IA, con un'accuratezza dichiarata superiore al 98%.
- Il dato di accuratezza arriva dalla stessa azienda e non risulta verificato in modo indipendente.
- Lo standard C2PA, sostenuto da Adobe, Microsoft, Google e BBC, punta a etichettare l'origine dei file fin dallo scatto.
- Con il d.lgs. n. 160/2026, in vigore dal 30 settembre, il deepfake può far scattare la responsabilità amministrativa degli enti.
Oggi chi guarda un video online non può più dare per scontato che le immagini siano state registrate da una telecamera, perché i contenuti generati o alterati dall'intelligenza artificiale si moltiplicano nella rete. In questo passaggio della storia dell'informazione, la fiducia nelle immagini diventa una questione da verificare con strumenti nuovi, mentre l'Italia prova a fissare regole per un fenomeno che tocca la verità condivisa. Come spesso accade con le tecnologie che cambiano il rapporto tra vedere e credere, la risposta si muove su due fronti: riconoscere a posteriori il falso e certificare il vero fin dalla sua origine.
Chi guarda un video online oggi non può più dare per scontato che le immagini siano state riprese da una telecamera. I contenuti generati o alterati dall'intelligenza artificiale si moltiplicano sulla rete, e le aziende che già vendono strumenti di riconoscimento stanno affinando le proprie soluzioni.
Tra queste c'è Pangram, che ha rilasciato una funzione capace di analizzare i file video e segnalare i singoli frame in cui è intervenuta l'IA. Il risultato appare su una mappa di calore e distingue le clip parzialmente generate da quelle interamente create dall'IA. L'azienda dichiara un'accuratezza superiore al 98%, un dato che però non risulta verificato da un soggetto indipendente.
Il problema non riguarda solo i falsi. Come spiega Mirko Vicenzotto di Axerta, l'IA rende facile creare un contenuto falso e, nello stesso tempo, rende credibile il dubbio anche su quello autentico.
Per questo i grandi nomi del settore puntano anche sulla prevenzione. Lo standard aperto C2PA sviluppa i Content Credentials, un'etichetta digitale non modificabile che registra origine, modifiche e uso dell'IA fin dalla creazione del file.
Sul piano normativo, l'Italia ha introdotto con la legge n. 132/2025 il reato di illecita diffusione di contenuti generati o alterati con l'IA. Il d.lgs. n. 160/2026 ha poi inserito il deepfake tra i reati che possono generare responsabilità per gli enti e fissato nuove regole civili per i danni causati dai sistemi di IA. Restano da vedere l'applicazione concreta di queste norme e la diffusione dei Content Credentials sui file.
Chi guarda un video online oggi non può più dare per scontato che quelle immagini siano state riprese da una telecamera. I contenuti generati o alterati dall'intelligenza artificiale si moltiplicano sulla rete e, per arginare il rischio dei deepfake, le società che già vendono strumenti per riconoscere i contenuti sintetici stanno affinando le proprie soluzioni.
Tra queste c'è Pangram, un'azienda specializzata nella verifica dell'autenticità digitale. Ha rilasciato una funzione che analizza i file video e segnala anche i singoli frame in cui è intervenuta l'intelligenza artificiale. Il risultato viene mostrato con una mappa di calore, che evidenzia i momenti del filmato prodotti dall'IA.
Secondo l'azienda, lo strumento riesce a distinguere le clip "parzialmente generate dall'IA" da quelle "interamente create dall'IA". Pangram dichiara tassi di accuratezza superiori al 98%. Si tratta di un dato fornito dalla stessa società, di cui l'articolo non riferisce una verifica indipendente.
Il problema, però, non riguarda soltanto i falsi. Lo spiega Mirko Vicenzotto di Axerta, azienda italiana attiva nelle attività forensi: l'intelligenza artificiale rende più facile creare un contenuto falso, ma allo stesso tempo rende plausibile il dubbio anche su uno autentico. Axerta ha incluso la "deepfake detection", cioè il riconoscimento dei video falsi, tra gli elementi necessari per individuare manipolazioni digitali e distinguere le prove autentiche dai contenuti alterati.
Accanto ai sistemi che controllano a posteriori ciò che è già online, i grandi nomi del settore puntano sulla tracciabilità preventiva, cioè alla fonte. L'iniziativa di riferimento è la Coalition for Content Provenance and Authenticity, detta C2pa, uno standard aperto sostenuto da Adobe, Microsoft, Google, Intel, Sony, Bbc e altre compagnie. Il protocollo sviluppa i Content Credentials, una sorta di etichetta digitale che associa al file elementi non modificabili: l'origine, le modifiche subite e l'eventuale uso di strumenti di IA, fin dal momento dello scatto o della generazione.
Anche l'Italia si muove sul piano normativo. La legge n. 132/2025, entrata in vigore da poco più di un anno, ha introdotto nel codice penale l'art. 612-quater, che punisce l'illecita diffusione di contenuti generati o alterati con l'IA. Il quadro si è poi arricchito con il d.lgs. n. 160/2026, in vigore dal 30 settembre.
Il decreto ha inserito il deepfake tra i reati che possono far scattare la responsabilità amministrativa degli enti. Ha inoltre fissato nuove regole di responsabilità civile per i danni causati dai sistemi di intelligenza artificiale. Da seguire, ora, sono l'applicazione concreta di queste norme e la diffusione dei Content Credentials sui file.
Bemerkenswerte Zitate
L'intelligenza artificiale rende più facile creare un contenuto falso ma, allo stesso tempo, rende plausibile il dubbio anche su un contenuto autentico.— Mirko Vicenzotto, Axerta
Möchten Sie die ganze Geschichte?
Das Original lesen bei ANSA ↗
General News