Un deepfake es un contenido (vídeo, audio, imagen) generado o manipulado por inteligencia artificial para imitar de manera realista a una persona o crear situaciones ficticias. El AI Act europeo impone desde el 2 de febrero de 2025 el marcado obligatorio de estos contenidos. Para las marcas, los deepfakes representan tanto un riesgo de reputación como un desafío para la autenticidad.
Tipos de deepfakes
Vídeo: Sustitución de rostro, sincronización labial, generación completa de persona.
Audio: Clonación de voz, generación de discursos ficticios.
Imagen: Personas ficticias, escenas manipuladas.
Texto: Contenidos generados imitando un estilo o una fuente.
Regulación de los deepfakes
El AI Act impone desde el 2 de febrero de 2025:
- Marcado obligatorio: Los contenidos generados por IA deben estar identificados como tales
- Información al usuario: Etiquetar claramente los contenidos sintéticos
- Excepciones: Contenidos artísticos o satíricos (con matices)
Riesgos para las marcas
- Suplantación: Vídeos falsos de dirigentes o portavoces
- Desinformación: Testimonios de clientes fabricados
- Erosión de la confianza: Dificultad para distinguir lo auténtico de lo falso
Protección y detección
- Herramientas de detección de deepfakes (Microsoft Video Authenticator, etc.)
- Marcas de agua digitales en sus contenidos
- Monitorización de menciones y contenidos asociados a su marca