En los últimos años, la inteligencia artificial que genera deepfake —videos, audios o imágenes manipuladas para suplantar identidades— deja de ser solo un tema de ciencia ficción. ESET Latinoamérica identifica que ya hay múltiples casos donde estos engaños causan pérdidas millonarias, confusión mediática o daño reputacional. A continuación, siete ejemplos reales, las lecciones que dejan, y cómo protegerse.
¿Qué es un deepfake?
Deepfake es una técnica que usa IA para crear contenido falso. Toma vídeos existentes o hasta imágenes estáticas. Busca replicar no solo la apariencia visual de una persona, sino también su voz y su modo de hablar.
Camilo Gutiérrez Amaya, jefe del laboratorio de ESET Latinoamérica, alerta:
“Con la evolución de la Inteligencia Artificial, estos vídeos y audios parecen cada vez más reales. Muchos explotan la imagen de figuras públicas o entidades de renombre diciendo algo falso, como parte de una estafa que busca obtener dinero o información sensible.”
Siete casos reales
- Lionel Messi
Usan su imagen para promocionar una app llamada Wildcat Dive. En el video fraudulento, Messi afirma que la app le genera ingresos importantes y que ayuda a muchas personas. El deepfake incluye fragmentos de una entrevista verídica, mezclados con contenido inventado. Las publicidades se difunden por Instagram. - Arup
La empresa de arquitectura con oficinas en Hong Kong sufre un engaño por videollamada. Un empleado financiero piensa que se comunica con el director financiero. En realidad, la voz y la imagen son deepfake. El engaño deriva en 15 transferencias bancarias por más de 25 millones de dólares. - Ferrari
En julio de 2024, delincuentes imitan la voz de Benedetto Vigna, entonces CEO de Ferrari. Intentan convencer al personal de finanzas para que realicen una transferencia de alto monto. Un empleado duda y formula una pregunta que la IA no sabe responder. El intento fracasa, pero pone en alerta a la empresa sobre la necesidad de capacitación. - WPP
Una de las mayores agencias publicitarias del mundo. Hacia mediados de 2024, un grupo malicioso crea una cuenta falsa de WhatsApp, usa audios de voz, y mezcla fragmentos de una reunión virtual tomada de YouTube. Su objetivo: suplantar al CFO Mark Read, lograr una reunión por Microsoft Teams, y obtener dinero o datos sensibles. Gracias al estado de vigilancia interna, el fraude no prospera. - Escuela en Baltimore
Un audio supuestamente atribuible al director de una escuela contiene comentarios racistas y antisemitas. El contenido se viraliza (más de 2 millones de visualizaciones) y genera amenazas de muerte hacia el educador. Luego, la policía local confirma que el audio es falso, manipulado con IA. - Elon Musk y criptomonedas
Se usa su imagen para anunciar supuestas inversiones en Bitcoin. Anuncios en plataformas como X (antes Twitter) y YouTube muestran oportunidades de ganancia muy altas, dirigen a sitios fraudulentos. Se piden depósitos iniciales. La Federal Trade Commission de EE.UU. reporta pérdidas por más de 80 millones de dólares entre más de 7.000 víctimas. - Presidente Zelensky
En marzo de 2022, durante el conflicto entre Rusia y Ucrania, circula un video falso. Muestra al presidente Volodímir Zelensky instando a sus tropas a rendirse. La falsedad es evidente. Zelensky responde casi de inmediato con un video auténtico desde sus canales oficiales.
Por qué los deepfakes representan un riesgo real
- Credibilidad aparente: Videos y audios cada vez suenan y se ven más realistas. Las personas confían en lo que ven, especialmente si involucra figuras conocidas.
- Alcance mediático: Un audio o video puede viralizarse rápidamente y causar daño, ya sea reputacional, emocional, económico o político. El caso de la escuela en Baltimore es un buen ejemplo.
- Impacto económico: Transferencias bancarias millonarias, estafas de inversión. Actores maliciosos tienen motivación fuerte.
- Desinformación política: En tiempos de tensión (como en Ucrania) los deepfakes pueden usarse como arma de guerra mediática.
- Escalas variadas: No solo ocurren en grandes empresas o con celebridades. Afectan escuelas, ciudadanos comunes, instituciones pequeñas.
Recomendaciones de ESET para protegerse
ESET Latinoamérica propone una serie de prácticas para reducir el riesgo de caer en estafas con deepfake:
| Medida | Descripción |
|---|---|
| Desconfiar de lo demasiado bueno para ser verdad | Anuncios con promesas de alta ganancia o éxito rápido suelen ser el gancho. Si involucran celebridades, revisar la fuente. |
| Observar la calidad de los medios | Falla visuales, sincronización extraña entre labios y voz, baja resolución pueden indicar manipulación. |
| Usar software de seguridad | Antivirus, filtros de mails, bloqueo de sitios fraudulentos. |
| Políticas de verificación en empresas | No autorizar pagos solo por una videollamada. Incorporar códigos internos o validaciones paralelas. |
| Capacitación continua | Formar al personal para reconocer señales de alerta: inconsistencias en audio o video, voces robóticas, etc. |
| Utilizar herramientas de detección de deepfake | Hay varias disponibles, como Sentinel, Sensity, herramientas para análisis de metadatos, detección de anomalías faciales o de voz. |
Reflexión final
Los deepfakes ya no son solo una curiosidad tecnológica. Se convierten en instrumento real de fraude, desinformación y daño reputacional. Si bien la tecnología avanza, también aumenta la sensibilidad colectiva hacia el engaño. Reconocer señales de alerta, exigir transparencia en los medios digitales y contar con herramientas confiables de verificación resulta imprescindible.
Para medios, empresas, instituciones educativas y usuarios comunes, la clave es: no creer ciegamente, verificar todo lo posible, y estar preparados. La prevención vale no solo en términos económicos, sino en la confianza y la seguridad de la información.
