- Los investigadores del Centro Nacional de Inteligencia Artificial (CENIA), Gabriela Arriagada-Bruneau, Marcelo Mendoza y Claudia López, lanzaron el libro “Ética en la Inteligencia Artificial y las Tecnologías de la Información” ante una concurrida audiencia en el salón del BiblioGAM, con la presencia de la directora del Centro Cultural Gabriela Mistral, Alejandra Martí.
La obra fue publicada en inglés por CRC Press (Routledge), editorial de distribución global que le dará visibilidad internacional al texto. El libro acerca conceptos básicos sobre el desarrollo de la Inteligencia Artificial para una mejor comprensión de esta tecnología, y aborda cómo la IA está impactando la vida cotidiana de las personas. En lo fundamental, propone herramientas para que estas tecnologías se desarrollen de manera más ética, transparente y alineada con los valores humanos.
“En este libro hablamos de ética, de los modelos de lenguaje, del futuro de la Inteligencia Artificial y de cómo tenemos que abordarla considerando el contexto social y cultural en el que opera, especialmente desde nuestra perspectiva siendo investigadores de Latinoamérica”, explicó Arriagada-Bruneau, investigadora joven de CENIA y profesora asistente en la Pontificia Universidad Católica de Chile (UC).
Actualmente, la IA no solo está cambiando las herramientas que se utilizan para realizar tareas cotidianas, sino que también está transformando la manera en que los seres humanos resuelven problemas y se relacionan. Y para abordar esta complejidad, el libro plantea la necesidad de un trabajo interdisciplinario que articule la filosofía y la ética con las ciencias técnicas y sociales, como marco para operacionalizar la toma de decisiones y los impactos sociales de la IA.
Entre las ideas que se profundizan en el libro está que la IA no es un artefacto puramente computacional, sino una tecnología creada por personas y que, por lo tanto, incorpora decisiones humanas. ¿De qué manera? A través de sus algoritmos, las instrucciones que le dicen a un sistema cómo resolver un problema o tomar una decisión, lo que conlleva —según señalan los autores— la generación de respuestas sujetas a intereses particulares y sesgos culturales que pueden generar desigualdades.
Plataformas de redes sociales (RRSS), motores de búsqueda y asistentes virtuales ya no funcionan de forma aislada ni libres de sesgos, sino que están influenciados por factores culturales, políticos, económicos y comerciales.
En este contexto, el libro propone integrar valores como la equidad, la transparencia y la responsabilidad en los sistemas de Inteligencia Artificial.
Razones para investigar y publicar
Durante la presentación, el investigador principal de CENIA y académico de la UC, Marcelo Mendoza, explicó que la creación del libro surgió en 2023, como una respuesta necesaria al éxito masivo de la IA generativa. “En el marco de mi labor en el centro, se conformó un equipo de trabajo para entregar una obra que profundizara en las diversas reflexiones y desafíos éticos que emergen del uso de esta tecnología”, explicó Mendoza, quien agregó que la publicación se suma al compromiso de CENIA por estar permanentemente al servicio de las personas, asegurando —entre otros— que la IA no discrimine, no recomiende contenido dañino, no amplifique noticias falsas (fake news), no excluya a ciudadanos ni derive en la toma de decisiones injustas por parte de los individuos.
Por su parte, la investigadora principal de CENIA y académica de la Facultad de Ciencias Físicas y Matemáticas (FCFM), Claudia López, sostuvo que “la ética aplicada a la Inteligencia Artificial no es un simple atributo que se le pueda agregar a una máquina. Por el contrario, requiere comprender la IA como un sistema complejo, en el que hay que evaluar de forma sistemática el impacto de sus algoritmos y reconocer que las decisiones tecnológicas siempre están relacionadas con valores humanos y sociales”.
Cabe mencionar que el libro incorpora el concepto de “situacionalidad”, tomado de las teorías feministas de la ciencia, con el foco puesto en señalar que todo algoritmo se desarrolla en un contexto histórico y social específico. Esta idea se conecta con enfoques como el feminismo de datos y la justicia de diseño, que advierten que la información con la que se entrenan los sistemas de IA suele dejar fuera las experiencias de comunidades marginadas. Como resultado, las soluciones tecnológicas terminan favoreciendo a los grupos con mayor privilegio social.
Modelos de lenguaje: riesgos y límites
El libro analiza también los puntos débiles en el uso de los modelos de lenguaje extenso (LLM), como ChatGPT, haciendo énfasis en que estos pueden inventar información presentándola como real (“alucinaciones”), lo que los hace poco confiables cuando se necesitan datos precisos. Además, los modelos pueden prestarse para un uso malicioso de su capacidad de imitar el lenguaje humano, lo que deja a las personas expuestas a la suplantación de identidad o la difusión de desinformación.
Frente a estos riesgos, los autores proponen una mirada práctica que permita abordar los problemas éticos de forma concreta desde el momento en que se diseña la tecnología. Dado que los algoritmos operan bajo probabilidades estadísticas y no bajo valores éticos, el libro concluye que las medidas técnicas deben ir siempre acompañadas de una supervisión humana que evalúe permanentemente cómo y dónde se aplican estos sistemas.
El libro se encuentra a disposición del público general en la Biblioteca del GAM, ubicada en el tercer piso del edificio A del Centro Cultural.
