En la biblioteca del Centro Cultural Gabriela Mistral (GAM) y con la Alameda de fondo, el investigador principal de CENIA, Marcelo Mendoza, participó de Ventanal Alameda, un espacio de conversación y debate sobre temas de actualidad organizado por el GAM. En esta sesión, tres panelistas discutieron una pregunta cada vez más urgente: ¿cómo distinguir lo real de lo fabricado cuando la tecnología puede replicar cualquier rostro, cualquier voz, cualquier momento?
Iniciados en marzo de 2026, Ventanal Alameda nace como un espacio de reflexión y debate sobre los temas que están transformando nuestra sociedad contemporánea. Desde BiblioGAM y con la ciudad como escenario, este ciclo busca abrir conversaciones sobre arte, cultura, tecnología y sus impactos en la vida cotidiana, inspirado en el pensamiento humanista de Gabriela Mistral. Gracias al convenio de colaboración firmado entre CENIA y el GAM, el centro de investigación fue invitado a sumarse a estas instancias de diálogo para reflexionar sobre el impacto de la inteligencia artificial en el arte, la cultura y la sociedad.
Moderado por la periodista Paloma Ávila, el encuentro reunió tres perspectivas que raramente comparten escenario para abordar el tema de la tercera sesión de Ventanal Alameda: “La era del fake y deepfake: desafíos al arte, la democracia y la percepción”. El investigador Marcelo Mendoza, investigador principal del Centro Nacional de Inteligencia Artificial (CENIA) y profesor del Departamento de Ciencias de la Computación UC, reflexionó desde su expertise en inteligencia artificial, acompañado de Juan Pablo Troncoso, actor y dramaturgo, y Ximena Jara, especialista en narrativa política.
El fenómeno del deepfake (contenido audiovisual manipulado mediante inteligencia artificial que permite alterar o fabricar imágenes, videos y audios de personas de forma cada vez más realista) representa dos capas problemáticas. Por un lado, constituye un problema técnico: la velocidad con que evoluciona la IA generativa supera la capacidad de los sistemas de detección automática, haciendo cada vez más difícil distinguir lo auténtico de lo fabricado mediante herramientas tecnológicas.
Por otro, es un problema narrativo, político y perceptivo: los deepfakes pueden usarse para manipular la opinión pública, erosionar la confianza en instituciones democráticas, difundir desinformación y afectar la reputación de personas, alterando nuestra capacidad colectiva de distinguir la verdad y poniendo en jaque la credibilidad de cualquier contenido que veamos o escuchemos.
No es la primera vez que Mendoza se adentra en este terreno. Su trabajo ha sido reconocido internacionalmente con el Seoul Test of Time (2021) por un estudio pionero sobre credibilidad de la información en redes sociales, mientras que su trabajo en CENIA sigue explorando cómo la IA puede ayudar a medir y frenar la propagación de contenido falso en entornos digitales.
Desde la perspectiva desde la Inteligencia Artificial, Mendoza aportó detalles respecto de cómo se fabrican estos contenidos y qué tan cerca está la detección automática de ganarle la carrera a la IA Generativa: “Estamos en una carrera armamentista tecnológica, donde la capacidad de fabricar contenidos sintéticos por ahora le va ganando la carrera a la detección automática”
En ese sentido, Mendoza valoró la generación y multiplicación de instancias de conversación como las organizadas por Ventanal Alameda —transmitidas por streaming y alojadas en YouTube— por cuanto permiten alertar a la ciudadanía sobre las amenazas concretas del deepfake: desde la suplantación de identidad y la manipulación electoral, hasta la difusión de desinformación que erosiona la confianza pública. Frente a este escenario, el investigador enfatizó la importancia de que las personas desarrollen un pensamiento crítico ante el contenido digital, verifiquen las fuentes antes de compartir información, y exijan el desarrollo de una inteligencia artificial ética y responsable. “La tecnología no es neutra, y ante los deepfakes, el pensamiento crítico no es solo una opción, sino un imperativo democrático”, señaló.
Acercar la IA a las personas
La participación de CENIA en Ventanal Alameda se enmarca en el convenio marco de colaboración suscrito entre ambas instituciones en enero de 2026, cuyo propósito es coordinar esfuerzos, acciones, capacidades y conocimientos para promover el desarrollo de instancias que fomenten la creación, fortalecimiento y difusión del quehacer de las actividades culturales y científicas que ambas realizan. Esta alianza reconoce que la inteligencia artificial no es solo un asunto técnico, sino un fenómeno que atraviesa la cultura, el arte y la vida cotidiana de las personas.
Para CENIA, espacios como Ventanal Alameda son fundamentales para cumplir con su compromiso de transferir conocimiento a la sociedad y llevar la investigación de frontera más allá de la academia. La misión del centro no se limita a generar conocimiento científico de excelencia, sino a ponerlo en diálogo con la ciudadanía, abordando las preguntas, inquietudes y desafíos que la IA plantea en la vida real. Es en estos encuentros donde la ciencia se humaniza y donde las personas pueden comprender, cuestionar y participar activamente en la construcción de un futuro tecnológico más ético y responsable.
La participación de Mendoza en este espacio es parte de las acciones de CENIA asociadas a la transferencia de conocimiento a la sociedad y de llevar la investigación de frontera más allá de la academia, poniéndola, en este caso, en conversación con el arte, la política y la ciudadanía. A través de esta colaboración con el GAM, CENIA reafirma su vocación pública y su convicción de que la inteligencia artificial debe desarrollarse con y para las personas, no sólo entre expertos.
