Deepfake e prove digitali: come l’AI sta cambiando la gestione delle evidenze e il contenzioso

L’intelligenza artificiale generativa ha reso semplice creare video, audio e documenti falsi ma estremamente credibili. Anche se nelle aule giudiziarie italiane i deepfake non rappresentano ancora una casistica di massa, le condizioni per un loro impatto sistemico sul contenzioso ci sono già tutte: da un lato, le riproduzioni informatiche possono essere contestate come manipolate; dall’altro, l’uso non governato dell’AI nella ricerca giuridica rischia di introdurre negli atti sentenze inesistenti. In entrambi i casi, la sfida principale riguarda l’attendibilità e la tracciabilità delle fonti.

In questo articolo analizziamo l’evoluzione delle minacce digitali (distinguendo tra le grandi frodi aziendali e le implicazioni per i giudizi civili e penali), il nuovo quadro normativo (dall’art. 612-quater c.p. agli obblighi per i deployer nell’AI Act) e le migliori pratiche per tutelare le evidenze. Vediamo inoltre come garantire l’affidabilità sia delle prove di fatto sia delle fonti di diritto, riducendo il rischio di allucinazioni nella ricerca legale.

L’evoluzione delle minacce: quando un contenuto digitale non è più attendibile

Dal fotoritocco all’identità sintetica

Per anni la manipolazione di un contenuto digitale ha richiesto competenze tecniche e tempo, e lasciava spesso tracce riconoscibili a un occhio esperto. Oggi i modelli di AI generativa sono in grado di clonare una voce, sostituire un volto in un video o creare da zero immagini e documenti verosimili, con strumenti alla portata di chiunque.

Due celebri casi recenti illustrano l’impatto dei deepfake in ambito aziendale e nelle frodi finanziarie, pur non trattandosi di contenziosi giudiziali nati in tribunale. Nel 2024 un dipendente della sede di Hong Kong della società di ingegneria britannica Arup ha eseguito 15 bonifici per complessivi 200 milioni di dollari di Hong Kong (circa 25 milioni di dollari statunitensi) dopo una videochiamata in cui i partecipanti erano ricostruzioni sintetiche. In Italia, nel 2026, si è verificato un episodio analogo ai danni di Fideuram, con il tentativo di sottrazione di ingenti somme guidato da e-mail contraffatte e dalla voce clonata di un noto avvocato d’affari, del tutto estraneo ai fatti (qui la ricostruzione di Cybersecurity360).

Anche se questi episodi nascono come truffe ed estorsioni extra-processuali, sono altamente indicativi per gli studi legali: dimostrano la facilità con cui l’identità di un professionista o di un dirigente può essere impersonata e prefigurano le contestazioni che presto diventeranno ordinarie anche nelle cause civili e del lavoro.

Il nuovo quadro normativo: art. 612-quater c.p. e AI Act

Il legislatore italiano è intervenuto con la Legge 23 settembre 2025, n. 132, in vigore dal 10 ottobre 2025, che ha introdotto nel Codice penale l’art. 612-quater, rubricato “Illecita diffusione di contenuti generati o alterati con sistemi di intelligenza artificiale”. La norma punisce con la reclusione da uno a cinque anni chi cagiona un danno ingiusto a una persona cedendo, pubblicando o diffondendo senza il suo consenso immagini, video o voci falsificati o alterati con l’AI e idonei a indurre in inganno sulla loro genuinità. La stessa legge ha introdotto un’aggravante comune per i reati commessi mediante sistemi di intelligenza artificiale, quando questi costituiscono un mezzo insidioso, ostacolano la difesa o aggravano le conseguenze del reato. Per un approfondimento sulla nuova fattispecie segnaliamo l’analisi pubblicata da Altalex.

A livello europeo, l’articolo 50 del Regolamento (UE) 2024/1689 (AI Act) stabilisce precisi obblighi di trasparenza. Occorre però distinguere tra i fornitori (provider) di sistemi di AI e chi li utilizza in ambito professionale (deployer): l’obbligo di dichiarare che un contenuto audio, foto o video costituisce un deepfake grava sul deployer quando impiega il sistema per scopi professionali o pubblici. La disciplina esclude l’uso puramente personale e prevede forme attenuate di informativa per i contenuti con finalità artistiche, satiriche o d’intrattenimento. I fornitori restano invece responsabili dell’implementazione delle marcature tecniche sui sistemi rilasciati sul mercato. Per una panoramica sulle scadenze rinforzate dal Digital Omnibus, si veda la nostra guida all’AI Act 2026.

Cosa cambia per chi deve provare un fatto

Nel processo civile, le riproduzioni informatiche formano piena prova dei fatti rappresentati se la parte contro cui sono prodotte non ne disconosce la conformità (art. 2712 c.c.). Con l’ordinanza n. 1254 del 18 gennaio 2025 la Cassazione ha confermato che anche gli screenshot dei messaggi WhatsApp rientrano in questa disciplina. Il disconoscimento, per essere efficace, deve essere specifico e circostanziato: una contestazione generica non basta. Ma quando è efficace, la riproduzione perde il valore di piena prova e diventa un elemento liberamente valutabile dal giudice, e chi l’ha prodotta deve dimostrarne l’autenticità con altri mezzi, per esempio una perizia informatica.

La diffusione dei deepfake rende più facile argomentare un disconoscimento circostanziato e produce un doppio effetto. Il primo è evidente: un contenuto falso può entrare nel fascicolo e orientare una decisione. Il secondo è più sottile ed è quello che i giuristi statunitensi Robert Chesney e Danielle Citron, in un saggio pubblicato nel 2019 sulla California Law Review, hanno chiamato “liar’s dividend”, il dividendo del bugiardo: un contenuto autentico e compromettente può essere screditato semplicemente sostenendo che sia stato generato dall’AI. In entrambi i casi, per l’avvocato la differenza la fa la capacità di dimostrare da dove viene una prova e che cosa le è successo dal momento in cui è stata acquisita.

L’importanza delle fonti certificate nei procedimenti legali

Catena di custodia e integrità del dato

Una prova digitale è attendibile quando se ne può ricostruire con certezza l’origine e se ne può dimostrare l’inalterabilità. Nel processo penale, la Legge 48/2008, che ha ratificato la Convenzione di Budapest sulla criminalità informatica, ha modificato tra gli altri gli artt. 244 e 247 c.p.p., prevedendo che le operazioni su sistemi informatici avvengano adottando misure tecniche dirette ad assicurare la conservazione dei dati originali e a impedirne l’alterazione. Nel contenzioso civile non esiste una regola equivalente, ma lo stesso principio è la via più solida per resistere a un disconoscimento.

In concreto, gli strumenti che rendono una prova digitale più difendibile sono:

• Acquisizione forense: copia integrale del supporto o del contenuto, eseguita con procedure documentate secondo le linee guida internazionali sulla raccolta e conservazione delle evidenze digitali (standard ISO/IEC 27037), invece del semplice screenshot o del file inoltrato via chat.
• Impronta hash: un codice che identifica in modo univoco il file e che cambia se il file viene modificato anche di un solo bit.
• Marca temporale e firma digitale: attestano la data certa di cristallizzazione del file e l’identità del soggetto che appone la firma (es. lo studio o il consulente che esegue e certifica l’estrazione dello screenshot), garantendo che il file non sia stato modificato da quel momento in poi, pur senza attestare l’autenticità del contenuto originario prima della sua acquisizione.
• Conservazione dei metadati: data, dispositivo, geolocalizzazione e cronologia di modifica sono spesso l’elemento che aiuta a smascherare una manipolazione.
• Credenziali di provenienza dei contenuti: lo standard C2PA (Content Credentials) incorpora nel file la storia della sua creazione e delle modifiche. È già supportato da alcune fotocamere professionali di Leica, Sony, Nikon e Canon e da alcuni smartphone come Google Pixel 10, ma l’adozione è ancora parziale e le credenziali attestano l’origine del file, non la verità di ciò che rappresenta.

Tutto questo prevede un’infrastruttura in grado di conservare i dati in modo sicuro e tracciabile. È lo stesso tema che affrontiamo quando parliamo di software di gestione documentale per studi legali e di firma digitale integrata nel gestionale cloud.

Dalle prove di fatto alle fonti di diritto: la seconda catena di fiducia

La credibilità di un atto giuridico poggia su due distinte catene di fiducia: quella delle prove di fatto e quella delle fonti di diritto. Se i deepfake mettono in discussione la prima, l’uso sconsiderato di strumenti di AI generativa non specializzati rischia di compromettere la seconda. È il caso delle cosiddette “allucinazioni”, ossia citazioni di norme o sentenze inventate. Il caso italiano di riferimento è l’ordinanza del 14 marzo 2025 del Tribunale di Firenze (Sezione Imprese), che ha rilevato in una comparsa la presenza di pronunce della Cassazione del tutto inesistenti o travisate, generate da ChatGPT durante una ricerca e non verificate prima del deposito. Si tratta di un fenomeno legato all’affidabilità della ricerca giuridica e non alla manipolazione di prove o deepfake, ma che risponde allo stesso problema di fondo: l’assenza di validazione della fonte. L’analisi dettagliata del provvedimento è pubblicata da Agenda Digitale.

Il punto non è rinunciare all’AI, ma sapere quali fonti utilizza. Un chatbot generalista produce testo plausibile sulla base di ciò che ha appreso, senza garanzia che la sentenza citata esista o dica ciò che le viene attribuito. Per questo abbiamo già messo in guardia gli studi dai rischi della Shadow AI, cioè l’uso di strumenti non autorizzati che, oltre agli errori, possono esporre dati riservati dei clienti.

Rischi e presidi: una sintesi operativa

Tipo di contenuto	Rischio principale	Presidio consigliato
Audio e messaggi vocali	Clonazione della voce	Acquisizione forense del dispositivo, hash, conservazione dei metadati
Video e videochiamate	Volti e identità sintetiche	Verifica della fonte originale e, se disponibili, delle credenziali C2PA; perizia tecnica
Screenshot e chat	Fabbricazione o alterazione del testo	Acquisizione forense o certificata anziché semplice cattura dello schermo
Documenti e contratti	Falsificazione di contenuto o firma	Firma digitale, marca temporale, gestione documentale con versioning
Sentenze e norme citate	Allucinazioni dell’AI generativa	AI legale che cita fonti verificabili, controllo umano di ogni citazione

Garantire la catena di fiducia sulle fonti giuridiche: l’approccio Lexroom

Perché un’AI verticale e non un chatbot generalista

Per rafforzare la catena di fiducia sulle fonti di diritto, l’adozione di motori di AI verticale dedicati al settore legale offre garanzie specifiche rispetto ai modelli generalisti. Piattaforme come Lexroom operano infatti su database normativi e giurisprudenziali chiusi e verificati, fornendo risposte direttamente collegate alla fonte ufficiale e consentendo la verifica immediata di ogni citazione.

L’uso dell’AI specialistica non elimina la responsabilità del controllo professionale, che resta sempre in capo all’avvocato, ma fornisce una struttura di lavoro orientata al riscontro analitico dei riferimenti, riducendo alla radice il rischio di errori da allucinazione negli atti.

Assicura le tue prove: integra ricerche certificate e verificate nel tuo workflow

Preservare la credibilità di un atto richiede di intervenire tempestivamente sulle procedure di studio relative a entrambe le catene di fiducia (fatti e diritto). I passaggi chiave includono:

1. Definire le policy interne per l’acquisizione delle prove: stabilire quando ricorrere ad analisi e acquisizioni certificate. Lanpartners supporta gli studi nella definizione di queste procedure organizzative e facilita la collaborazione con consulenti forensi qualificati per le operazioni peritali su supporto informatico.
2. Conservare originali e metadati in un sistema di gestione documentale sicuro, con versioning, accessi tracciati e backup immutabili, secondo i principi che descriviamo nella nostra guida alla continuità operativa e al backup.
3. Adottare un’AI legale verticale che citi fonti verificabili al posto dei chatbot generalisti per la ricerca giurisprudenziale e la redazione, mantenendo sempre il controllo umano su ogni citazione.
4. Formare avvocati e collaboratori a riconoscere i segnali di manipolazione e a verificare le citazioni generate dall’AI prima di inserirle in un atto.
5. Introdurre procedure di verifica per le richieste urgenti, soprattutto se arrivano per telefono o videochiamata: dopo i casi Arup e Fideuram, una voce o un volto familiari non bastano più a confermare un’identità.
6. Prevedere una procedura di risposta per i casi in cui lo studio o un cliente sia vittima di un deepfake: i primi momenti sono decisivi, come spieghiamo nella guida all’Incident Response nelle prime 24 ore.

Vuoi capire come integrare Lexroom e procedure di gestione sicura delle prove nel flusso di lavoro del tuo studio? Contattaci per un assessment e una demo della piattaforma costruita a partire dai tuoi casi reali. Scopri anche tutti i nostri servizi di Intelligenza Artificiale per studi e professionisti.

FAQ: deepfake, prove digitali e AI nel contenzioso

Cos’è un deepfake e perché è un problema per le prove in giudizio?

Un deepfake è un’immagine, un video o un audio generato o alterato con l’intelligenza artificiale in modo da sembrare autentico. È un problema per il processo perché rende più facile contestare qualsiasi contenuto digitale: la parte che produce una registrazione o un video deve essere pronta a dimostrarne origine e integrità.

Cosa prevede l’art. 612-quater del Codice penale?

Introdotto dalla Legge 132/2025 e in vigore dal 10 ottobre 2025, punisce con la reclusione da uno a cinque anni chi cagiona un danno ingiusto a una persona cedendo, pubblicando o diffondendo senza il suo consenso immagini, video o voci falsificati o alterati con l’AI e idonei a ingannare sulla loro genuinità.

L’AI Act obbliga a dichiarare i deepfake?

L’articolo 50 dell’AI Act prevede un obbligo di trasparenza a carico dei deployer (chi utilizza il sistema per motivi professionali) nel momento in cui diffondono contenuti che costituiscono un deepfake, indicandone la natura artificiale, con deroghe per uso personale o per scopi artistici e satirici.

Uno screenshot o un messaggio vocale sono prove valide?

Sì, come riproduzioni informatiche ai sensi dell’art. 2712 c.c., che fanno piena prova se non vengono disconosciute in modo specifico. Se la controparte le disconosce efficacemente, occorre dimostrarne l’autenticità con altri mezzi: un’acquisizione forense o certificata, con impronta hash, marca temporale e metadati conservati, rende la prova molto più solida.

Cosa sono le allucinazioni dell’AI in ambito legale?

Sono riferimenti inventati, come sentenze, massime o norme inesistenti, che un sistema di AI generativa presenta come veri. Il Tribunale di Firenze le ha descritte nell’ordinanza del 14 marzo 2025, relativa a una comparsa che citava sentenze della Cassazione inesistenti o dal contenuto diverso da quello riportato.

Come aiuta Lexroom a ridurre il rischio di allucinazioni?

Secondo quanto dichiara l’azienda, Lexroom risponde sulla base di un corpus chiuso di fonti giuridiche italiane verificate e collega ogni affermazione alla fonte ufficiale, consultabile e scaricabile. Nessuna AI elimina del tutto il rischio di errore: il controllo finale resta all’avvocato, ma parte da citazioni collegate alle loro fonti anziché da un testo soltanto verosimile.

Da dove può iniziare uno studio legale per proteggere le proprie prove digitali?

Da una policy interna sull’acquisizione delle prove, da un sistema di conservazione sicuro di originali e metadati, da procedure di verifica delle richieste urgenti, dall’adozione di un’AI legale che citi fonti verificabili e dalla formazione del team. Lanpartners può affiancare lo studio in ciascuno di questi passaggi.