Cuando la mentira tiene cara y voz: inteligencia artificial, verdad sintética y la nueva crisis de lo real

M.A.R.H Salvador Acevedo Ortega.

Docente universitario en la Universidad Autónoma de Chihuahua, Facultad de Economía Internacional e Ingeniería.

En los primeros meses de 2025, un video circulaba masivamente en redes sociales mexicanas mostrando a un funcionario público confesar actos de corrupción con su propia voz, con sus propios gestos faciales, con una iluminación que correspondía perfectamente a una grabación real. Decenas de miles de personas lo compartieron antes de que los verificadores de hechos pudieran publicar el desmentido: era un deepfake, un video sintético generado con inteligencia artificial capaz de replicar la apariencia y la voz de cualquier persona a partir de un conjunto de imágenes y grabaciones públicamente disponibles. El daño a la reputación del funcionario, a la confianza en las instituciones y a la calidad del debate público ya estaba hecho antes de que la verdad pudiera circular.

Esa escena, que se repite con variaciones en Brasil, en Estados Unidos, en la India, en España y en decenas de países más, describe el frente más perturbador de la inteligencia artificial en la vida social contemporánea. No es la automatización del trabajo. No es la concentración del poder económico. Es algo más fundamental y más difícil de remediar: la capacidad de fabricar realidad con una fidelidad que supera la capacidad perceptiva humana para distinguirla de la verdad. Y en un mundo donde la democracia, la justicia y la convivencia cívica dependen de una base mínima de acuerdo sobre lo que es real, eso no es un problema tecnológico. Es una crisis epistemológica de proporciones históricas.

La máquina que fabrica evidencia

Para entender la magnitud del problema, es necesario comprender cuánto ha cambiado la capacidad de generar contenido sintético convincente en un período extraordinariamente corto. Hace una década, detectar una imagen o un video manipulado digitalmente requería herramientas especializadas, pero el resultado aun así presentaba anomalías visibles para un observador entrenado. Los modelos generativos actuales —en particular los basados en redes generativas adversariales (GAN) y los modelos de difusión como los que alimentan plataformas como Midjourney, DALL-E y Stable Diffusion— producen imágenes fotorrealistas de personas, lugares y eventos que nunca existieron con una calidad que supera con frecuencia a la fotografía real.

Los deepfakes de video y audio representan la dimensión más perturbadora de este fenómeno. Danielle Keats Citron y Robert Chesney documentaron en California Law Review (2019) que la tecnología para generar videos sintéticos convincentes, que en 2017 requería capacidad computacional de alto nivel y meses de trabajo especializado, estaría disponible para usuarios no técnicos en cuestión de años. Su predicción fue correcta. Hoy, aplicaciones de acceso gratuito permiten reemplazar el rostro de una persona en un video o clonar su voz en minutos, usando apenas un fragmento de grabación como muestra. El resultado es contenido que no sólo engaña al ojo humano, sino que supera los umbrales de detección de la mayoría de los sistemas automatizados disponibles.

Lo que en origen fue una herramienta de posproducción cinematográfica o un experimento de laboratorio es hoy la infraestructura de un ecosistema de desinformación que opera a escala industrial. El informe del Foro Económico Mundial sobre riesgos globales para 2024 identificó la desinformación potenciada por IA como el riesgo de mayor impacto a corto plazo a nivel mundial, por encima del cambio climático, los conflictos geopoíticos y las crisis económicas.

La crisis que no es nueva pero que la IA vuelve terminal

La desinformación, entendida como contenido falso difundido con intención de engañar, no es un fenómeno inventado por la inteligencia artificial. Claire Wardle y Hossein Derakhshan propusieron en su influyente informe para el Consejo de Europa (2017) un marco conceptual que distingue entre desinformación, mala información y la información malintencionada: tres categorías que describen cómo el contenido falso, impreciso o manipulado se produce y circula con motivaciones distintas. Su hallazgo central es que el problema no es solo técnico —la existencia de contenido falso— sino ecológico: el entorno informativo se ha deteriorado hasta el punto en que distinguir lo verdadero de lo falso requiere un nivel de alfabetización mediática que la mayoría de las personas no ha tenido la oportunidad de desarrollar.

Lo que la inteligencia artificial generativa agrega a ese problema no es simplemente más cantidad de contenido falso. Es una transformación cualitativa de su naturaleza. Hasta hace poco, la desinformación más efectiva tenía texto real, imágenes reales y fuentes reales, pero el contexto era falso o el encuadre era manipulador. Ahora es posible fabricar el texto, la imagen, el video, la voz y la fuente de manera que no existen pistas verificables de su falsedad. La desinformación dejó de ser un error de contexto. Se convierte en evidencia sintética completa.

La mentira más peligrosa no es la que niega la verdad. Es la que fabrica su propio cuerpo de evidencia.

David Lazer y un equipo interdisciplinario de investigadores publicaron en Science (2018) una revisión exhaustiva sobre la ciencia de las noticias falsas que concluye que estas se difunden más rápido, más lejos y más ampliamente que la información verdadera en todas las categorías de contenido. El análisis de 126,000 historias publicadas en Twitter entre 2006 y 2017 demostró que las noticias falsas llegaban al 70 por ciento más de personas que las verdaderas, y que esa diferencia no se explicaba por la amplificación de bots sino por el comportamiento de usuarios humanos. La falsedad es, en el ecosistema digital, evolutivamente más apta que la verdad porque activa emociones —sorpresa, indignación, miedo— que los sistemas de recompensa social de las plataformas amplifican de manera automática.

Por qué creemos lo que queremos creer

El problema no es sólo la tecnología. Es la psicología. Gordon Pennycook y David Rand documentaron en Trends in Cognitive Sciences (2021) que la susceptibilidad a las noticias falsas no está determinada primariamente por la ideología o la falta de información, sino por el nivel de pensamiento analítico que la persona aplica al evaluar el contenido que consume. Su investigación, que incluyó múltiples experimentos con decenas de miles de participantes, demostró que quienes tienen mayor disposición a detenerse y cuestionar la información antes de compartirla son significativamente menos propensos a propagar contenido falso, independientemente de sus preferencias políticas o nivel educativo formal. La variable decisiva no es cuánto sabe una persona. Es si tiene el hábito de pensar críticamente antes de actuar.

Eso conecta el problema de la desinformación sintética con uno de los argumentos centrales de esta serie: la capacidad de pensar críticamente no se adquiere por osmosis digital. Se construye deliberadamente, con tiempo, con práctica y con entornos que la protejan. Y es precisamente esa capacidad la que la economía de la atención —diseñada para maximizar la reacción emocional y minimizar la deliberación— está erosionando sistemáticamente. La convergencia de ambos fenómenos —herramientas para fabricar realidad y entornos que desactivan el escrutinio crítico— no es accidental. Es la condición más favorable que jamas ha existido para la manipulación masiva a bajo costo.

Chihuahua en la frontera de lo real

En Chihuahua, este fenómeno tiene dimensiones específicas que su contexto geográfico y económico intensifican. La posición fronteriza del estado —con una de las ciudades más transitadas del mundo en Ciudad Juárez— lo convierte en un espacio donde circulan narrativas sobre migración, seguridad pública, política binacional y economía que son particularmente susceptibles a ser manipuladas con contenido sintético. Un video fabricado sobre un incidente migratorio, una grabación de voz sintética atribuida a un funcionario municipal, una imagen generada por IA que muestra una situación de violencia que nunca ocurrió: cualquiera de esos contenidos puede viral izarse en minutos con consecuencias que van desde el pánico social hasta la interferencia en procesos electorales.

La expansión del nearshoring y la mayor visibilidad económica de Chihuahua en el contexto nacional e internacional también la exponen a un tipo específico de desinformación: la fabricación de narrativas sobre inversión, seguridad industrial, condiciones laborales o conflictos sindicales que pueden afectar decisiones de empresas multinacionales o generar desconfianza en los mercados. En ese entorno, la capacidad de los ciudadanos, los periodistas y las instituciones de distinguir información auténtica de contenido sintético no es un lujo intelectual. Es una condición de la gobernanza y de la competitividad regional.

La respuesta institucional y sus límites

Los sistemas jurídicos y regulatorios del mundo están respondiendo, aunque con la lentitud característica de las instituciones frente a tecnologías que evolucionan exponencialmente. La Unión Europea aprobó en 2024 el AI Act, el primer marco regulatorio integral sobre inteligencia artificial en el mundo, que incluye disposiciones específicas sobre contenido sintético y la obligación de identificar y etiquetar el material generado por IA. La Comisión Europea también implementó el Código de Prácticas sobre Desinformación, al que se han adherido plataformas como Meta, Google y Microsoft, comprometiendo mecanismos de detección y etiquetado de contenido sintético.

Sin embargo, la regulación tiene límites estructurales frente a un problema que opera a velocidad de red. Para cuando un deepfake es detectado, etiquetado y retirado, puede haber sido compartido millones de veces. La investigación de Lazer et al. demuestra que las correcciones y desmentidos alcanzan a una fracción significativamente menor de público que el contenido falso original. La asimetría no es subsanable solo con política pública. Requiere también una respuesta ciudadana que ningún gobierno puede decretar: el hábito del escrutinio crítico antes de compartir.

Verificar antes de compartir no es desconfianza. Es el acto cívico más importante que existe en la era del contenido sintético.

La alfabetización que la época exige

La respuesta individual al problema de la desinformación sintética no pasa por la paranoia ni por el rechazo a toda información digital. Pasa por el desarrollo de lo que los investigadores del Stanford History Education Group —liderados por Sam Wineburg— llaman lectura lateral: la práctica de verificar una fuente no profundizando en ella, sino abriendo múltiples fuentes externas simultáneamente para determinar cómo es tratada por terceros independientes. Es el método que usan los verificadores de hechos profesionales y que los estudios de Wineburg han demostrado que puede enseñarse con relativa rapidez, con impactos medibles en la capacidad de distinguir fuentes confiables de desinformación elaborada.

Las universidades de Chihuahua tienen aquí una responsabilidad concreta que trasciende la formación disciplinar: incorporar la alfabetización mediática y la verificación crítica de información como competencias transversales en todas las carreras, no como un curso optativo de comunicación. Un ingeniero, un contador, un médico o un abogado que no sabe evaluar la autenticidad de la información digital que recibe y comparte no está solo en desventaja profesional. Es un vector de desinformación en su propio campo, con consecuencias que pueden ser graves para sus clientes, sus pacientes o sus comunidades.

Durante siglos, la humanidad construyó instituciones —la ciencia, el periodismo, el derecho, la historia— sobre la premisa de que existía una diferencia verificable entre lo que ocurrió y lo que alguien afirma que ocurrió. La inteligencia artificial generativa está sometiendo esa premisa a una presión sin precedentes histórico. No porque la verdad haya desaparecido. Sino porque fabricar su simulacro se ha vuelto accesible, económico y devastadoramente eficaz.

La respuesta a esa presión no puede ser tecnológica solamente. Tiene que ser cognitiva, institucional y cultural. Y tiene que empezar con la conciencia de que en un ecosistema donde cualquier imagen, audio o video puede ser fabricado con inteligencia artificial, la pregunta que todos deberíamos hacernos antes de creer algo —y antes de compartirlo— no es si parece auténtico. Es si podemos verificar que lo es.

En la era del contenido sintético, la duda razonada no es un síntoma de desconfianza. Es el último baluarte de la realidad compartida sobre la que toda sociedad posible se sostiene.

REFERENCIAS

Citron, D. K., & Chesney, R. (2019). Deep fakes: A looming challenge for privacy, democracy, and national security. California Law Review, 107(6), 1753–1820. https://doi.org/10.15779/Z38RV0D15J

Comisión Europea. (2022). Código de prácticas reforzado sobre desinformación. Unión Europea. https://digital-strategy.ec.europa.eu/en/policies/code-practice-disinformation

Lazer, D. M., Baum, M. A., Benkler, Y., Berinsky, A. J., Greenhill, K. M., Menczer, F., ... & Zittrain, J. L. (2018). The science of fake news. Science, 359(6380), 1094–1096. https://doi.org/10.1126/science.aao2998

Parlamento Europeo. (2024). Reglamento (UE) 2024/1689 relativo a la inteligencia artificial (AI Act). Diario Oficial de la Unión Europea. https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=CELEX:32024R1689

Pennycook, G., & Rand, D. G. (2021). The psychology of fake news. Trends in Cognitive Sciences, 25(5), 388–402. https://doi.org/10.1016/j.tics.2021.02.007

Wardle, C., & Derakhshan, H. (2017). Information disorder: Toward an interdisciplinary framework for research and policy making. Council of Europe. https://rm.coe.int/information-disorder-report-november-2017/1680764666

Wineburg, S., Breakstone, J., Nolen, A., Smith, M., & Bradel, C. (2022). Lateral reading on the open internet: A district-wide field study in high school government classes. Journal of Educational Psychology, 114(5), 893–909. https://doi.org/10.1037/edu0000740

World Economic Forum. (2024). Global Risks Report 2024. World Economic Forum. https://www.weforum.org/publications/global-risks-report-2024/