En audio
Listen to this article

Por Darío Nin

Los deepfakes son contenidos sintéticos —video, audio o imagen— generados o alterados con inteligencia artificial para que parezcan reales. En ellos, una persona puede “aparecer” diciendo o haciendo algo que nunca dijo o hizo (1). No hablamos de trucos nuevos: lo novedoso es la calidad y la velocidad con la que hoy se producen y viralizan.

¿Cómo funcionan? Un modelo de IA aprende patrones de imagen o voz a partir de muchos ejemplos públicos (fotos, entrevistas, discursos). Después, recrea rasgos, gestos y timbres con tal verosimilitud que, sin herramientas de verificación, es fácil caer en el engaño (1).

Pariente cercano: los cheapfakes o shallowfakes, manipulaciones de “bajo costo” (recortar, ralentizar/accelerar, reetiquetar), que no requieren IA avanzada pero también distorsionan (2).

Por qué importan para la democracia: La democracia descansa en una base común de hechos. Cuando circula una pieza muy creíble —sobre todo en vísperas electorales— se puede dañar reputaciones, confundir al electorado o desmovilizar el voto antes de que las verificaciones lleguen. Por eso varios marcos legales empiezan a exigir transparencia y rotulado cuando un contenido es sintético o ha sido manipulado por IA (3).

Dos ejemplos recientes:

1) Robocall con voz clonada de Joe Biden (EE. UU., 2024).
Antes de las primarias de New Hampshire, circuló una llamada automatizada con una voz clonada que sonaba como el presidente, pidiendo no votar. Hubo acciones regulatorias y procesos judiciales por supresión del voto e impersonación (4).

2) Audios falsos en la recta final de Eslovaquia (2023).
Días antes de la elección, se difundieron audios manipulados atribuyendo a líderes opositores un supuesto plan para “amañar” los comicios. Ocurrió durante periodo de silencio electoral, lo que dificultó desmentir a tiempo. La evidencia posterior matiza su impacto exacto, pero dejó clara la vulnerabilidad del ecosistema informativo cuando la verificación llega tarde (5)(6).

Cómo detectarlos (checklist rápido)

  • Raro pero viral: aparece de golpe y solo en cuentas dudosas.

  • Detalles que no calzan: parpadeos/trozos extraños en video; respiración/entonación poco natural en audio.

  • Fuente y fecha: ¿quién publicó primero? ¿coincide con silencios electorales o eventos clave?

  • Trazabilidad: busca originales; consulta verificadores y desmentidos oficiales.

  • Publicidad política: desconfía de piezas sin etiqueta clara o sin información de quién paga y a quién segmenta (3).

Qué podemos hacer (ciudadanía, medios, autoridades)

  • No compartas en caliente: verifica antes de reenviar, especialmente cerca de elecciones.

  • Exige rotulado cuando veas piezas altamente realistas.

  • Datos abiertos y desmentidos rápidos: instituciones con respuesta coordinada y evidencia pública (actas, audios originales).

  • Bibliotecas de anuncios: saber quién paga y a quién segmenta ayuda a frenar abusos (3).

 Apuntalamos que los deepfakes rara vez “deciden” solos una elección, pero, sí pueden torcerla si encuentran terreno fértil: polarización alta, poca transparencia y verificación lenta. La defensa combinada es alfabetización digital y reglas claras de transparencia. Así, la tecnología puede convivir con la democracia sin sustituir la verdad por lo verosímil. o sea no es que parezca verdad es que lo sea.

Nos volveremos a ver en el camino. Hasta la próxima. Que Dios nos continúe bendiciendo!!!

(*) El autor es abogado, psicólogo clínico MA. Especialista en Derechos Humanos y Derecho Internacional Humanitario. Actualmente es ostenta  el cargo de Defensor del Pueblo Adjunto  de la República Dominicana.

Dania.26082025SDERD.

Fuentes y lecturas

  1. Encyclopaedia Britannica — “Deepfake | History & Facts”. Encyclopedia Britannica

  2. Council of Europe — Wardle & Derakhshan (2017) “Information Disorder” + materiales sobre cheapfakes/shallowfakes. First Draft NewsU.S. Department of Homeland SecurityCocreation Studio

  3. AI Act de la Unión Europea (Regl. 2024/1689) — obligaciones de transparencia y etiquetado de contenidos sintéticos. EUR-Lex+1

  4. Caso “robocall” en New Hampshire (2024) — documentación de FCC y cobertura judicial. Documentos FCCDepartamento de JusticiaAP News

  5. Eslovaquia 2023 — cobertura y análisis del episodio de audios falsos. WIRED

  6. Harvard Kennedy School — “Beyond the deepfake hype: AI, democracy, and the Slovak case”. Misinformation Review

SHARE