En una era definida por la transformación digital, el Centro Nacional de Inteligencia Artificial (CENIA) destaca la publicación del libro “Ética en la Inteligencia Artificial y las Tecnologías de la Información”. Esta obra, crucial para abordar los desafíos éticos y sociales de la IA, es el resultado del trabajo conjunto de tres investigadores CENIA: Gabriela Arriagada-Bruneau, Claudia López y Marcelo Mendoza.
Este libro es una herramienta para entender el impacto de la Inteligencia Artificial (IA) en la vida diaria. Con un enfoque socio-técnico, los autores desglosan conceptos complejos para que sean accesibles al público general, así como a estudiantes, investigadores y profesionales interesados en la materia. El texto parte de la base de la ética en la IA, presentando un marco para integrar principios éticos en cada etapa de un proyecto de desarrollo tecnológico.
“El crecimiento de la IA en nuestras vidas hace que sea fundamental analizar su impacto social y ético”, comenta Claudia López, coautora e investigadora principal de CENIA. “Este libro busca poner a las personas en el centro de la conversación sobre la IA para asegurar que su desarrollo beneficie a toda la sociedad”.
“Nuestro objetivo es que el discurso de la IA responsable y ética no sea algo anecdótico o deseable, es algo inherente a la misma IA”, dice Gabriela Arriagada, también coautora del texto. “Por eso quisimos juntar nuestras experiencias y conocimiento interdisciplinario para generar un libro de consulta, que permita profundizar en aspectos éticos, técnicos, y sociotécnicos del desarrollo de la IA y las tecnologías de información”.
Lo que distingue a esta obra es la apuesta interdisciplinaria que hicieron sus autores, articulando la mirada de la filosofía y la ética como un marco general para operacionalizar la toma de decisiones y los impactos sociales de la IA. Para ello, abordan temas fundamentales como la justicia, la rendición de cuentas y la transparencia en los sistemas de información, incluyendo los sistemas de recomendación y la privacidad de los datos.
En un apartado de actualidad, la publicación discute el sesgo en el Procesamiento del Lenguaje Natural (PLN) y propone estrategias para mitigarlo. Asimismo, evalúa el alcance de los enfoques basados en la justicia en modelos generativos como ChatGPT, los que no solo buscan reducir sesgos en el diseño, entrenamiento y evaluación, sino también asegurar principios de justicia, incluyendo la reparación de posibles daños.
El texto también aborda la compleja relación entre la IA y la desinformación, analizando el auge de los modelos generativos de noticias, como los deepfakes., Asimismo, plantea una mirada práctica a través de una estructura que permita pensar en los desafíos éticos.
“Esperamos que el libro se transforme en una herramienta para la gente que está en proyectos de IA,” añade López. La obra no reduce las soluciones a lo puramente técnico, sino que las enmarca dentro de un problema más complejo, ofreciendo un enfoque práctico para la ejecución desde la ciencia de datos y el desarrollo de tecnologías de la información, considerando que la disciplina ha construido procedimientos y mecanismos que nos ayudan a enfrentar estos desafíos de mejor manera.
Con este lanzamiento, los autores, junto a CENIA, invitan a la comunidad a reflexionar sobre la importancia de una IA responsable, ética y sostenible. “Es un giro importante que está tomando el centro. Nuestro objetivo siempre ha sido poner la IA al servicio de las personas, pero hemos estado también formalizando la investigación y el rol de incidencia pública de la visión ética y responsable de la IA. Para nosotros es importante que autores y visiones latinoamericanas estén presentes y representadas en estas discusiones”, comenta Gabriela Arriagada.
Publicado por la editorial CRC Press, el libro es una primera edición de 238 páginas y contiene 24 ilustraciones en blanco y negro y dos a color. Fue lanzado en 2025 y está disponible en formato físico y electrónico en el sitio web de Routledge Taylor & Francis Group.
Sobre los autores
Gabriela Arriagada-Bruneau: Es profesora asistente con doble nombramiento en la Pontificia Universidad Católica de Chile, en el Instituto de Ética Aplicada (IEA) y en el Instituto de Ingeniería Matemática y Computacional (IMC). Filósofa de formación con un Master of Science de la Universidad de Edimburgo y Doctora especializada en Éticas Aplicadas de la Universidad de Leeds. Gabriela es una investigadora joven de CENIA y fue reconocida entre los 100 jóvenes líderes de Chile el 2024 por su trabajo en IA inclusiva. Su experiencia incluye la participación en las primeras consultas para la regulación de IA en Chile y las recomendaciones de UNESCO sobre neuroética. Su investigación se centra en el sesgo y la justicia en la IA, la filosofía feminista de la ciencia y la ética de las discapacidades.
Claudia López: Es profesora asociada en la Universidad Técnica Federico Santa María y principal investigadora en CENIA y en el Núcleo Milenio sobre el Futuro de la Investigación en Inteligencia Artificial (FAIR). Con un PhD en Ciencias de la Información y Tecnología de la Universidad de Pittsburgh, su investigación se enfoca en la IA centrada en el ser humano, la computación social y la interacción persona-computadora (HCI). Claudia es una voz activa en la promoción de una perspectiva socio-técnica de la IA y en el fomento de la participación de mujeres en el desarrollo tecnológico.
Marcelo Mendoza: Es profesor asociado en el Departamento de Ciencias de la Computación de la Pontificia Universidad Católica de Chile. Es cofundador de la Fundación Chilena para la Transparencia y la Democracia, e investigador principal en CENIA. Posee un doctorado en Ciencias de la Computación de la Universidad de Chile y realizó un postdoctorado en Yahoo Research. Su investigación se centra en el desarrollo de métodos de IA para medir y predecir eventos y procesos que involucran a humanos. En 2021, recibió el premio Seoul Test of Time por su trabajo pionero en el análisis de la desinformación.
