Deepfake

Come funzionano i deepfake?

I deepfake utilizzano reti neurali profonde, in particolare:

• GAN (Generative Adversarial Networks): Due reti si sfidano per creare immagini realistiche
• Autoencoder: Imparano a ricostruire volti e possono scambiare caratteristiche
• Diffusion model: Generano immagini progressivamente a partire dal rumore
• Voice cloning: Sintetizzano una voce a partire da campioni audio

Tipi di deepfake

Tipo	Descrizione	Tecnologie
Face swap	Sostituzione del volto di una persona con un altro	DeepFaceLab, FaceSwap
Lip sync	Sincronizzazione delle labbra con un nuovo audio	Wav2Lip, SyncNet
Voice clone	Imitazione della voce di una persona	ElevenLabs, Resemble.ai
Full body	Generazione di video completi di persone	Synthesia, HeyGen
Generazione di immagini	Creazione di foto realistiche di persone fittizie	Midjourney, DALL-E, Stable Diffusion

Regolamentazione dei deepfake (AI Act)

L'AI Act classifica i deepfake nella categoria "rischio limitato" con obblighi di trasparenza:

Obblighi di marcatura

• I contenuti generati dall'IA che imitano persone reali devono essere chiaramente identificati
• L'utente deve sapere che sta guardando un contenuto sintetico
• La marcatura deve essere visibile e comprensibile

Eccezioni

• Opere artistiche chiaramente identificate come finzione
• Contenuti satirici o parodistici evidenti
• Usi a fini di ricerca

Sanzioni

Il mancato rispetto degli obblighi di trasparenza può comportare sanzioni fino a 15 milioni di euro o il 3% del fatturato mondiale.

Usi legittimi dei deepfake

Non tutti i deepfake sono malevoli. Tra gli usi legittimi:

• Marketing: Avatar di brand, video personalizzati
• Formazione: Simulazioni, e-learning con presentatori virtuali
• Intrattenimento: Effetti speciali, doppiaggio, ringiovanimento di attori
• Accessibilità: Traduzione video con lip sync
• Commemorazione: "Far rivivere" personaggi storici (con il consenso degli aventi diritto)

Rischi dei deepfake

• Disinformazione: False dichiarazioni attribuite a personalità
• Frode: Furto d'identità per truffe
• Molestie: Contenuti non consensuali (pornografia)
• Manipolazione politica: Influenza sulle elezioni
• Danno reputazionale: Falsi video compromettenti

Rilevamento dei deepfake

Diversi metodi permettono di identificare i contenuti generati:

• Analisi delle incoerenze (sbattimento di ciglia, riflessi, sfondo)
• Rilevamento di pattern di generazione IA
• Verifica dei metadati
• Strumenti specializzati (Microsoft Video Authenticator, Sensity AI)
• Watermarking invisibile da parte dei creatori di IA