El Fondo Nacional de Desarrollo Científico y Tecnológico (Fondecyt) es un programa que impulsa el progreso científico y tecnológico de Chile mediante un concurso público anual, destinado a financiar iniciativas de alta calidad en diversas disciplinas. El Fondecyt Regular, coordinado por la Agencia Nacional de Investigación y Desarrollo (ANID), promueve la creación de conocimiento avanzado en campos que abarcan desde las ciencias naturales hasta las ciencias sociales y las humanidades.

¿En qué consiste este concurso?

Cada año, se otorgan recursos a propuestas de investigación con un gran potencial para generar avances significativos, alentando la participación de profesionales de múltiples áreas. El objetivo es dar vida a ideas originales que contribuyan de manera concreta al desarrollo científico y tecnológico del país.

En marzo, la ANID publicó la lista de ganadores(as) del Fondecyt Regular 2025. Entre ellos, cinco investigadores(as) de CENIA obtuvieron financiamiento: Ana María Cabañas, Cristóbal Guzmán, Cristóbal Moenne, Francisco Sahli e Iván Sipiran, quienes comenzarán pronto a desarrollar sus respectivos proyectos.

Hacia una IA equitativa en la detección del cáncer de piel

Ana María Cabañas, doctora en ciencias con especialización en física y profesora asistente en la Universidad de Tarapacá, es investigadora colaboradora asociada de la línea de “Aprendizaje profundo para visión y lenguaje” de CENIA. Gracias a este Fondecyt Regular, liderará la investigación “Enhancing equity in computer vision and deep learning: integrating skin color measurements for fair and diverse datasets”, en la que participan como co-investigadores Domingo Mery (UC), Cristián Navarrete (UC) y Macarena Fuentes-Guajardo (UTA).

Este proyecto busca promover la equidad en la detección del cáncer de piel mediante la creación de una base de datos global con mediciones precisas del tono de la piel. Además, perfeccionará los algoritmos de aprendizaje profundo incorporando métricas de equidad y utilizará herramientas de inteligencia artificial explicable (XAI) para lograr una toma de decisiones más transparente. Con este esfuerzo colaborativo, se espera mejorar la precisión del diagnóstico en todos los tonos de piel y establecer nuevos estándares de equidad en la IA, con aplicaciones que podrían extenderse al reconocimiento facial y otras áreas.

IA y física para transformar el tratamiento de la fibrilación auricular

Francisco Sahli es ingeniero civil mecánico, profesor asistente en el Departamento de Ingeniería Mecánica y Metalúrgica, y también forma parte del Instituto de Ingeniería Biológica y Médica UC. Además, es investigador asociado de la línea “Aprendizaje automático basado en la física” de CENIA. Gracias a este Fondecyt Regular, llevará a cabo la investigación titulada “Physics-informed neural networks for phase mapping during atrial fibrillation”, en la que participan como co-investigadores Simone Pezzuto (Universidad de Trento, Italia), Gernot Plank (Medical University of Graz, Austria) y Paris Perdikaris, (University of Pennsylvania, EEUU).

Su trabajo se centra en mejorar el diagnóstico y el tratamiento de la fibrilación auricular, una arritmia cardíaca muy común, a través de un método que fusiona Inteligencia Artificial y principios físicos. El plan contempla el uso de redes neuronales “informadas por la física”, capaces de combinar datos clínicos con reglas matemáticas para representar cómo se propagan las señales eléctricas en el corazón. El objetivo es reconstruir, de manera más precisa que las técnicas actuales, los mapas de la actividad eléctrica y así ubicar los puntos de origen de la fibrilación. Esta aproximación permitiría intervenciones médicas más dirigidas (como la ablación) y, en última instancia, mejoraría la calidad de vida de los pacientes.

¿Cómo los videojuegos pueden potenciar nuestras habilidades cognitivas?

Cristóbal Moenne, doctor en ciencias de la ingeniería y docente en el Departamento de Ciencias de la Salud UC, es investigador joven de CENIA en la línea “IA inspirada en el cerebro”. Con su Fondecyt Regular desarrollará el proyecto “Efecto de la demanda sensoriomotora en la práctica de videojuegos como un factor clave en el desarrollo de habilidades cognitivas”, en el que también participa como co-investigador el investigador Gonzalo Varas, profesor de Kinesiología UC.

Esta iniciativa se enfoca en analizar cómo jugar videojuegos y la coordinación necesaria entre lo que vemos y nuestros movimientos dentro del entorno virtual, pueden potenciar habilidades cognitivas, como la atención y la memoria. El equipo estudiará si diferentes niveles de dificultad en los videojuegos pueden lograr mejoras tangibles que incluso se transfieran a tareas fuera del ámbito del juego. Para ello, reclutarán a personas que no sean jugadoras habituales, evaluando sus capacidades antes y después de entrenarse con videojuegos de distinta complejidad. Según explica el Dr. Moenne, el conocimiento obtenido podría ayudar a diseñar programas de entrenamiento más eficientes para fortalecer capacidades mentales.

“Uno de los roles de la línea de investigación en la que trabajo es justamente inspirar, y estudiar sobre los beneficios cognitivos de jugar videojuegos se puede vincular con el desarrollo de la inteligencia artificial (IA) de varias maneras. Por ejemplo, los videojuegos pueden servir como entornos de entrenamiento para modelos de IA, mejorando su capacidad para realizar tareas en el mundo real”, explica Cristóbal Moenne.

IA para crear objetos 3D con mayor precisión y realismo

Iván Sipirán, doctor en ciencias de la computación y profesor asistente del Departamento de Ciencias de la Computación de la Universidad de Chile, es investigador principal de CENIA en la línea “Aprendizaje profundo para visión y lenguaje”. Su proyecto, “Symmetry-conditioned generation of 3D point clouds”, plantea el desarrollo de un modelo de IA que genere objetos tridimensionales (3D) con mayor precisión y coherencia.

Para conseguirlo, se aplicará un enfoque de “difusión generativa”, al que se incorporará información sobre la forma y estructura de los datos 3D. Habitualmente, los modelos de generación se limitan a imitar ejemplos sin una guía adicional, pero en este caso se añadirá la “estructura” como punto de partida para que el sistema produzca resultados más realistas. La meta es que la IA logre descubrir por sí sola estos rasgos geométricos y los utilice para elaborar nuevas creaciones 3D con mayor fidelidad.

“Este proyecto propone nuevas formas de regularizar el aprendizaje de modelos generativos. Además nos va a permitir avanzar en el entendimiento del aprendizaje sobre datos 3D. Todo esto en línea con lo que se viene haciendo en la RL1, en donde queremos llevar la frontera del deep learning a otro nivel”, explica el investigador.

Protegiendo la privacidad en el entrenamiento de redes neuronales

Cristóbal Guzmán, doctor en algoritmos, combinatoria y optimización, es profesor asociado del Instituto de Ingeniería Matemática y Computacional UC e investigador joven de CENIA en la línea “IA centrada en las personas”. Gracias a su Fondecyt Regular, llevará a cabo el proyecto de investigación “Differentially-Private Neural Network Learning with Provable Guarantees: A Sparsity-Based Approach”, en el que también participará el investigador Juan Pablo Flores, estudiante de doctorado del Dr. Guzmán en la Facultad de Matemáticas UC.

Su estudio se concentra en idear métodos para entrenar redes neuronales protegiendo la confidencialidad de los datos, utilizando la llamada “privacidad diferencial”. Esta técnica garantiza que la información personal no pueda ser identificada directamente en los resultados. El proyecto explora ciertas propiedades del conjunto de datos, denominadas “sparsity” (o escasez), las cuales permiten resguardar información sensible sin sacrificar la calidad del aprendizaje, ofreciendo así soluciones más seguras y eficientes.

The post Conoce los proyectos de investigación que desarrollarán los ganadores(as) del Fondecyt Regular 2025 appeared first on CENIA.

CENIA se complace en anunciar la exitosa defensa de la tesis doctoral de nuestro estudiante afiliado de postgrado, Ignacio Villagrán Gutiérrez, titulada:“Learning analytics as a strategy to improve the teaching and assessment of procedural skills of health sciences students in virtual environments”.

La defensa se llevó a cabo el jueves 23 de enero de 2025, en la Sala Consejo del Departamento de Ciencia de la Computación (DCC UC) de la Pontificia Universidad Católica de Chile, en el marco del programa de Doctorado en Ciencias de la Ingeniería de la Escuela de Ingeniería UC. El comité evaluador estuvo conformado por:

La comisión fue presidida por el profesor y representante jefe del programa, Dr. Héctor Jorquera (DCC UC). Como resultado de su presentación, la comisión otorgó a Ignacio la distinción máxima.

Resumen de la investigación

La tesis aborda el papel de la analítica de aprendizaje (Learning Analytics) en la mejora de la retroalimentación para estudiantes de ciencias de la salud en entornos virtuales. A lo largo de tres estudios, Ignacio exploró:

1. El comportamiento de los estudiantes ante la retroalimentación en entrenamientos remotos, y cómo esta influye en su desempeño.
2. El diseño de una interfaz de analítica de aprendizaje (Learning Analytics Dashboard) para identificar los aspectos valorados por los estudiantes para promover su aprendizaje autorregulado.
3. El desarrollo de una herramienta de inteligencia artificial orientada a mejorar la calidad de la retroalimentación entregada por instructores.

Los resultados evidenciaron el potencial de la tecnología y el uso intensivo de datos educativos para comprender y optimizar la retroalimentación, fortaleciendo así el aprendizaje y el desarrollo de habilidades clínicas. A futuro, esta línea de investigación abre oportunidades para profundizar en la personalización de herramientas y expandir su aplicación en diversos contextos educativos.

Desde CENIA, extendemos nuestras felicitaciones a Ignacio Villagrán por este notable logro académico. 

The post CENIA felicita a Ignacio Villagrán por la exitosa defensa de su tesis doctoral con distinción máxima appeared first on CENIA.

Con gran sorpresa CENIA recibió la noticia de que dos de sus integrantes fueron seleccionados entre los 100 Jóvenes Líderes 2024, un reconocimiento que la Revista Sábado de El Mercurio, en colaboración con la Universidad Adolfo Ibáñez, otorgan desde hace más de 20 años a jóvenes sub35 que, desde diferentes áreas, están transformando Chile en un mejor lugar. En esta edición, el reconocimiento recayó en Rodrigo Durán Rojas, gerente de CENIA, y en la investigadora Gabriela Arriagada, quien también es académica del Instituto de Éticas Aplicadas UC y del Instituto de Ingeniería Matemática y Computacional (IMC UC).

CENIA como referente regional en inteligencia artificial

A finales del 2023, Rodrigo Durán Rojas asumió el cargo de gerente del CENIA, con el desafío de posicionar al centro en un referente de la inteligencia artificial en la región. Anteriormente se desempeñaba como director de vinculación con el medio en CENIA y como director ejecutivo del Índice Latinoamericano de Inteligencia Artificial (ILIA), un estudio pionero que, en sus dos ediciones, ha medido el estado de avance de la IA en la región, con un detallado análisis segmentado por países. En 2023 el estudio incluyó a 13 países, mientras que en 2024 amplió su alcance a 19 países. Este informe ha logrado convertirse en una herramienta valiosa para tomadores de decisiones, incluidos los gobiernos de Argentina, Chile, Brasil, Colombia y Uruguay, qua ya lo están utilizando para guiar sus políticas públicas.

Bajo su liderazgo, CENIA ha logrado establecer alianzas estratégicas con actores relevantes en Latinoamérica y Caribe para promover la inteligencia artificial en la región, enfocándose en bienes públicos y en la atracción de inversión privada. Entre sus socios destacan la CEPAL, el BID, la CAF, Google y Amazon.

Recientemente, CENIA publicó el estudio “Oportunidades de la IA Generativa para el Futuro del Trabajo en Chile”, que identifica las oportunidades de aceleración para las 100 principales ocupaciones del país. Además, se ha concretado el financiamiento de Google.org para que CENIA diseñe y ejecute programas de formación en IA, beneficiando a más de 60,000 empleados públicos y de pequeñas y medianas empresas (pymes) en los próximos dos años.

“Más que un reconocimiento personal, este es un reconocimiento del rol que hemos cumplido como centro, y refleja el impacto del trabajo conjunto en tres áreas, que son transferencia tecnológica, vinculación con el medio e investigación. Nada de lo que se menciona es mérito personal, es mérito institucional de una serie de equipos que hemos logrado poner la inteligencia artificial al servicio de las personas, así que muy contento y hago extensivo este reconocimiento a todo el CENIA”, menciona Rodrigo Durán.

Inteligencia Artificial inclusiva al servicio de las personas

Gabriela Arriagada, Msc. en filosofía de la Universidad de Edimburgo, académica en ética de la IA, representante latinoamericana de la World Ethical Data Foundation y autora del libro “Los sesgos del algoritmo”, ha dedicado su trayectoria académica a impulsar el desarrollo de una inteligencia artificial inclusiva, al servicio de las personas y con un fuerte foco en las neurodivergencias, trabajando en el diseño de metodologías que sean capaces de identificar sesgos en el desarrollo de modelos de inteligencia artificial.

En CENIA forma parte de la línea de investigación “IA centrada en las personas” (RL5), y co-lidera el Grupo de Trabajo Ética junto a la Dra. Claudia López, desde donde surgió el Manual de Ética en Inteligencia Artificial, un recurso dinámico y actualizado, que nació a partir de un estudio interno y que reveló una alta valoración de la ética en el CENIA, pero también una falta de comprensión y aplicación práctica en el trabajo diario.

En 2024 trabajó en un diagnóstico sobre las aplicaciones de IA en salud en Chile, enfocándose en el reconocimiento de sesgos de género, hacia personas discapacitadas y de tercera edad. Además, participó en consultas organizadas por la UNESCO y este año fue una de las expertas convocadas por la Comisión de Futuro del Senado para contribuir en la promulgación de la primera ley sobre IA en Chile.

Actualmente, en colaboración con la Universidad de Tokio y la Universidad de Hanyang, Gabriela Arriagada está llevando a cabo análisis comparativos para contextualizar el uso de la IA en la inclusión de personas con discapacidades cognitivas y mentales. El objetivo es realizar pruebas de estos análisis en Chile.

“Este reconocimiento significa muchísimo para mí. Esto me da a entender el rol que tiene la ética en nuestra sociedad hoy en día, particularmente en el avance científico y tecnológico. Nuestro futuro debe estar fundado en la ética no como una serie de principios a seguir, sino que como parte íntegra de nuestra identidad moral. Somos seres morales, nuestras decisiones afectan las oportunidades de vida de otros, y en un mundo de co-existencia con la IA esto es crucial. Estoy agradecida de haber recibido este reconocimiento porque mi trabajo apunta justamente a eso, a aprender a manejar nuestros sesgos y a encaminarnos a un futuro ético e inclusivo”, comenta la investigadora Gabriela Arriagada.

Por: Gianyser González Sánchez

The post Rodrigo Durán y Gabriela Arriagada de CENIA son elegidos parte de los 100 jóvenes líderes 2024 appeared first on CENIA.

El equipo de Procesamiento de Lenguaje Natural (NLP) conformado por estudiantes del Departamento de Ciencia de la Computación (DCC UC), el Centro Nacional de Investigación en Inteligencia Artificial (Cenia) y del Instituto Milenio Fundamento de los Datos (IMFD), obtuvieron el primer lugar en dos categorías de la shared task de IberLEF 2024 “Automatic detection and characterization of propaganda techniques and narratives from Diplomats of major power“.

DIPROMATS 2024 tiene por título la competencia que desafió a los participantes a desarrollar sistemas avanzados para la detección y caracterización automática de técnicas de propaganda y narrativas en tweets emitidos por diplomáticos de potencias mundiales como Estados Unidos, Europa, Rusia y China. La competencia dividió las tareas en dos categorías principales: “Identificación y Caracterización de la Propaganda” y “Detección de Narrativas“.

“La competencia consistió en diseñar sistemas para la detección automática de técnicas de propaganda en lenguaje natural, en específico en comentarios que se producen en redes sociales. El data set con el cual se trabajó corresponde a un Data que se construyó específicamente para esta competencia y consiste en tweets extraídos desde cuentas de políticos y diplomáticos importantes de las grandes potencias del mundo como Estados Unidos, Europa, Rusia y China”, explicó el académico e investigador principal de Cenia, Marcelo Mendoza.

El equipo, conformado por Miguel Fernández (IMFD y doctorado DCC UC), Maximiliano Ojeda (IMFD y doctorado DCC UC), Lilly Guevara (Cenia, de la línea de investigación RL5 e Ingeniería USM), Diego Varela (Cenia, de la línea de investigación RL5 e Ingeniería USM) y Marcelo Mendoza (académico DCC UC, investigador principal Cenia e IMFD), alcanzaron el primer lugar en dos categorías de la competencia.

Tras los trascendentes resultados al team se le invitó a presentar su solución en el evento que se llevará a cabo del 24 al 26 de septiembre en Valladolid, España.

Marcelo Mendoza, miembro del equipo, comentó que: “como los mensajes vienen de distintos países, hay algunos que son en castellano y otros que son en inglés. Entonces la competencia se evalúa en tres categorías uno que es bilingüe, inglés y español. Nosotros ganamos en inglés y en bilingüe, en español ocupamos podio es decir, llegamos en segundo o en tercer lugar en todas las otras tareas”.

Por: Pía Cassone

The post Equipo de NLP gana primer lugar en DIPROMATS 2024, en detección automática de propaganda en redes sociales appeared first on CENIA.

La revista académica IEEE Transactions on Learning Technologies pertenece a la IEEE  Computer Society, una de las organizaciones más grandes y respetadas en el campo de la  ingeniería eléctrica y la computación, y se centra en publicar investigaciones innovadoras de  alta calidad del campo de las tecnologías de aprendizaje.  

La prestigiosa revista IEEE Transactions on Learning Technologies publicó recientemente  el paper “Towards an AI Knowledge Assistant for Context-aware Learning Experiences  in Software Capstone Project Development”, artículo liderado por los académicos Dr.  Andrés Neyem, Dr. Marcelo Mendoza y Dr. Juan Pablo Sandoval, quienes forman parte  del cuerpo académico del Departamento de Ciencia de la Computación de la Pontificia  Universidad Católica (DCC UC), y en caso de los investigadores Dr. Neyem y Dr. Mendoza participan  como investigadores del Centro Nacional de Inteligencia Artificial (Cenia). Este es el primer  número de la revista que se enfoca en el impacto de Chat GPT en la educación, y se trata del  special issue “ChatGPT and Generative AI.” 

Así mismo, se destaca al tesista de doctorado Cenia, Luis A. González, al estudiante de  magíster Cenia, Leonardo Centellas, y al estudiante Carlos Paredes (DCC UC), quienes  participaron como co-autores del paper.  

La investigación presenta un asistente de conocimiento basado en inteligencia artificial, un  concepto denominado “AI Knowledge Assistant”, el cual está siendo aplicado en el curso  Capstone de Desarrollo de Software de la carrera. Andrés Neyem, académico del  Departamento de Ciencia de la Computación UC e investigador asociado Cenia,  contextualiza explicando qué es el curso de Capstone. “Es un curso de último nivel  universitario, en donde los y las estudiantes desarrollan proyectos de software reales, con el  fin de que todo lo aprendido durante la carrera se plasme en algo pragmático y práctico,  demostrando una preparación profesional ante la industria”.  

¿De qué se trata “AI Knowledge Assistant”? 

Es un asistente de conocimiento basado en IA, que promete revolucionar la experiencia  educativa, al integrar diversos tipos de conocimientos adaptados al contexto específico de los  proyectos de innovación de la asignatura Capstone de Desarrollo de Software.  

Esta asignatura ha experimentado un aumento explosivo de estudiantes, pasando de 60 a  240 en la actualidad. Gestionar el trabajo de una gran cantidad de personas motivó al  investigador Andrés Neyem, quién dirige el curso, a crear un portafolio de productos de  software que facilitaran la tarea. Fue entonces cuando Andrés y Marcelo decidieron unir  fuerzas para potenciar uno de estos softwares con IA Generativa y su aplicación basada en  modelos de lenguaje de gran tamaño (LLM). 

“Lo que hicimos fue modificar ese software para incorporar un asistente de conocimiento  basado en inteligencia artificial, de manera que los y las estudiantes pudieran hacer preguntas  dentro del dominio de la asignatura. Ese asistente es básicamente Chat GPT, pero  condicionado a las lecciones aprendidas que se tenían de la asignatura. Es decir, se habían  recolectado todas las experiencias de años anteriores y se le entregaron a los LLMs que  incorporamospara que elaboren sus respuestas”, explica Marcelo Mendoza. 

Esta alianza virtuosa dio como resultado un sistema a través del cual los estudiantes pueden  gestionar los proyectos del semestre usando la metodología ágil de Kanban, y realizar  preguntas o solicitar recomendaciones a un asistente de inteligencia artificial, el cual ha utiliza  fuentes de conocimiento de internas (con datos propios de la asignatura) y fuentes externas  de información. 

Marcelo Mendoza, académico del DCC UC e investigador principal de Cenia, explica por  qué este paper es considerado potencial de la IA en la educación. “Fue un llamado a presentar  trabajos que involucraron dos temas: educación y herramientas para apoyar la educación,  y cómo estas herramientas se potenciaban con el uso de Chat GPT (…) Este es el primer  número de la revista que se enfoca en el impacto de Chat GPT en el mundo de la educación.  Son sólo cinco artículos los que componen esta edición especial, y en esto el DCC UC y  Cenia son pioneros.” 

Cabe destacar que los documentos con los cuales se trabajó para condicionar el texto, fueron  recolectados por lecciones aprendidas durante aproximadamente diez años que se ha  implementado la asignatura. 

La importancia y la trascendencia de esta tecnología es medir el impacto de la aplicación de  la IA generativa en personas, específicamente en el contexto educativo. Es por eso que es  un proyecto que involucra a dos líneas de investigación de nuestro centro: Aprendizaje  profundo para visión y lenguaje (RL1) e IA centrada en las personas (RL5). 

Los hallazgos de la investigación destacan principalmente el impacto positivo del software en  la calidad de las interacciones entre estudiantes y ayudantes de la asignatura. A su vez, las  encuestas de satisfacción realizadas durante el periodo de testeo revelaron que los y las  estudiantes valoraron positivamente la integración de la IA generativa, destacando que las  respuestas y recomendaciones proporcionadas por el software eran más útiles y claras que  las obtenidas mediante la interacción humana.  

Esta tecnología ha permitido a los estudiantes recibir respuestas más directas y pertinentes  a sus consultas, además de posibilitar la realización de contra preguntas en la misma  plataforma. Un beneficio adicional que aporta este sistema es la capacidad del software para  compartir los conocimientos generados entre todos los estudiantes, asegurando que las  respuestas correctas a consultas específicas estén disponibles de forma permanente y para todos y todas. 

Lee el paper Towards an AI Knowledge Assistant for Context-aware Learning  Experiences in Software Capstone Project Development

Por: Pía Cassone y Gianyser González

The post Investigadores de Cenia desarrollan software pionero que usa  IA Generativa para mejorar la experiencia de aprendizaje  appeared first on CENIA.

El Fondo Nacional de Desarrollo Científico y Tecnológico (Fondecyt) es un instrumento que promueve el desarrollo científico y tecnológico nacional mediante un concurso público que se realiza cada año, con el objetivo de financiar proyectos de excelencia en ciencia y tecnología. A comienzos de enero, la Agencia Nacional de Investigación y Desarrollo (ANID), publicó la nómina con los ganadores del Fondecyt 2024 de Iniciación a la Investigación y de Postdoctorado, y con ella cuatro investigadores de Cenia lograron adjudicarse este fondo: Andrés Carvallo, Cristian Buc, Christ Devia y Guillermo Puebla, quienes podrán iniciar en un futuro próximo sus respectivas investigaciones relacionadas con ciencia e inteligencia artificial.

A este concurso pueden postular proyectos científicos y tecnológicos que conduzcan a nuevos conocimientos. El objetivo de un Fondecyt de Iniciación en Investigación es justamente dar pie a expandir el conocimiento que se tiene hasta el momento sobre la ciencia y otras áreas como la inteligencia artificial. 

Cristián Buc, Andrés Carvallo, Christ Devia y Guillermo Puebla son los cuatro investigadores que se han adjudicado el Fondo Nacional de Desarrollo Científico y Tecnológico (Fondecyt) para sus proyectos de investigación durante el proceso 2023. 

Cristián Buc, doctor en neurociencias cognitivas de la Universidad Libre de Bruselas y actual jefe del equipo de investigación de Cenia, se ha adjudicado un Fondecyt de Iniciación en Investigación con su proyecto “Compositional Learning in Humans and Machines”.

Andrés Carvallo, doctor en ciencias de la ingeniería mención en ciencia de la computación de la Pontificia Universidad Católica de Chile e investigador postdoctoral en Cenia, se ha adjudicado el Fondecyt para Posdoctorado con su proyecto “Towards Unbiased Machine Learning and Natural Language Processing Algorithms: A Multilingual Approach to Fairness.” 

Christ Devia, doctora en ciencias biomédicas de la Universidad de Chile e investigadora permanente en Cenia, también se adjudicó un Fondecyt de Iniciación en Investigación con su proyecto: “Visual reasoning machines with “behavior-in-the-loop”, cross-disciplinary insights and developments”.

Y finalmente, Guillermo Puebla, doctor en psicología de la Universidad de Edimburgo e investigador colaborador asociado en Cenia, desarrollará el proyecto “3D Symmetry Perception and Shape Constancy in Infants and Deep Neural Networks”, con el apoyo de la Universidad de Tarapacá y la Pontificia Universidad Católica de Chile, tras adjudicarse el Fondecyt de Iniciación en Investigación. 

¿En qué consisten los proyectos?

El investigador Andrés Carvallo postuló a este Fondecyt para su proyecto de posdoctorado en Ciencias de la Computación de la Pontificia Universidad Católica de Chile (DCC UC), junto a su proyecto “algoritmos imparciales de aprendizaje automático y procesamiento del lenguaje natural: un enfoque multilingüe hacia la equidad”. El proyecto tiene como objetivo investigar respecto a la siguiente hipótesis: “los modelos de lenguaje aprenden sesgos contra ciertas características de grupos identitarios relacionados a su raza, orientación sexual, religión, discapacidad u otros”, para posteriormente aplicar estrategias en modelos de lenguaje que eviten la generación de estos sesgos. 

Este proyecto es parte de la línea RL5 de Cenia, la cual busca investigar las consecuencias sociales que puede tener la inteligencia artificial en estos grupos.

El objetivo central de este proyecto es llevar a cabo un estudio con tres fases:  

1) En la primera, se generarán conjuntos de datos sesgados para entrenar un modelo de lenguaje, este conjunto estará formado por palabras que puedan significar un juicio en contra de grupos específicos, tales como: grupos religiosos, grupos étnicos, definidos por su orientación sexual o su género. Esta base de datos también podría incluir sesgos hacia posturas políticas y demás grupos que pueden ser blanco de discriminación. 

2) La segunda etapa consiste en contraponer el modelo de datos sesgados, con un modelo que identifica las palabras sesgadas, para luego crear y generar un modelo no sesgado, el cual, a medida que va generando lenguaje, será capaz de aplicar estrategias para evitar palabras de juicio en contra de los grupos antes mencionados.

3) El tercer paso implica poner a disposición de la comunidad científica el modelo capaz de aprender sin sesgos y el conjunto de datos utilizados. 

Otro de los proyectos será desarrollado por el líder del equipo de investigación de Cenia, Cristián Buc, quien postuló al Fondecyt de Iniciación en Investigación con un proyecto que contempla una investigación de 3 años aproximadamente. Buc, trabajará en conjunto a cuatro profesores de distinguidas universidades internacionales. Su equipo colaborador estará compuesto por el Profesor Matt Nasar (Brown University); el Profesor Tom Verguts (Ghent University); el Profesor Michael J Frank (Brown University) y el Profesor Álvaro Soto (UC), director de Cenia. 

Esta investigación interdisciplinaria tiene base en la ciencia básica, la cual busca profundizar los conocimientos que se tienen respecto a un área, sin específicamente buscar durante este proyecto aplicar este conocimiento. El proyecto abarca materias como la psicología experimental, la neurociencia cognitiva, la neurociencia computacional y la inteligencia artificial.

Bajo el título: Compositional Learning in Humans and Machines, el estudio del investigador buscará hallar propiedades que se encuentran en las redes neuronales biológicas de humanos, para estudiarlas y posteriormente, inducidas en redes neuronales artificiales. Las redes artificiales emularían el comportamiento de las redes biológicas y así se podría hacer más eficiente su aprendizaje mientras operan en un contexto de navegación espacial.

Guillermo Puebla es doctor en psicología de la Universidad de Edimburgo y comenzó a colaborar con Cenia a principios de 2023, en donde participó en el equipo de investigación como postdoctorante. Tras dos meses de trabajo en el centro, postuló a un Fondecyt de Iniciación en Investigación con el proyecto: “3D Symmetry Perception and Shape Constancy in Infants and Deep Neural Networks” , el cual contempla una investigación de aproximadamente tres años.

El proyecto tiene como objetivo investigar si las redes neuronales artificiales son capaces de percibir la forma tridimensional de objetos simples de manera similar a los infantes humanos, los cuales utilizan el principio de simetría para inferir la forma tridimensional de un objeto a partir de la imagen retinal, la cual por naturaleza es bidimensional.

Este plan, que contará con el apoyo de la Profesora Marcela Peña (UC), directora alterna de Cenia, y la colaboración del Profesor Jeff Bowers (University of Bristol), contempla varias etapas. A medida que avance cada una de ellas, pretenden poder obtener la primera tanda de resultados experimentales al primer año de iniciada la investigación; y la segunda tanda de resultados a los dos años de iniciado el proyecto, para posteriormente presentar estos resultados de manera pública y preparar su paper definitivo. 

Christ Devia es Ingeniera Civil Electricista y Doctora en Ciencias Biomédicas, especializada en percepción visual. Al igual que los demás ganadores, es Investigadora Cenia y postuló al Fondecyt de Iniciaición en Investigación 2024, el cual se adjudicó con el proyecto “ Visual reasoning machines with “behavior-in-the-loop”, cross-disciplinary insights and developments” con el apoyo de la Universidad de Chile y de Cenia.

Este proyecto tiene como propósito investigar y realizar experimentos que nos permitan conocer la conducta ocular de humanos cuando ponemos nuestra atención en un objeto  en una imagen durante tareas de razonamiento. 

La idea de realizar este estudio es que el conocimiento obtenido sea entregado a un modelo de inteligencia artificial, y probar así probar si este conocimiento lo ayuda a mejorar sus respuestas y las hace más eficientes; parte del desafío es que las redes neuronales artificiales deben aprender estas cualidades y “emularlas”, sin dejar de lado su conocimiento previo.

La propuesta incluye una red artificial denominada “MAC (Memory, Attention, and Composition)” la cual es capaz de graficar, en una imagen específica, las zonas que está utilizando el modelo para responder una pregunta de inferencia que se le haya hecho acerca de la imagen. Lo que hace este modelo, es “emular” la forma en la que los humanos fijan su atención en algo y va moviendo su atención alrededor de la imagen mientras va abordando la pregunta el modelo va “moviendo su mirada” y muestra las zonas que está utilizando para responderte. 

Estos experimentos permitirán conocer más sobre cómo ocurre el proceso de razonamiento en humanos y mejorar cómo resuelven las maquinas tareas de razonamiento en imágenes.

Es importante enfatizar que para los proyectos presentados ante el Fondecyt los investigadores proponen una hipótesis de estudio, la cual, mediante avance la investigación, se logrará desarrollar una respuesta que confirme o refute tal hipótesis; tomando esto en cuenta, cabe señalar que estos proyectos aportan directamente a la ciencia básica, que tiene como objetivo principal aumentar y expandir el conocimiento que se tiene sobre la ciencia y la inteligencia artificial.

Por: Emilio Belmar Santibáñez.

The post Conoce los proyectos de investigación que desarrollarán los ganadores(as) del Fondecyt 2024 de Iniciación y Postdoctorado. appeared first on CENIA.

Durante el mes de enero, la investigadora Cenia, Gabriela Arriagada, se adjudicó dos FONDEDOC (Fondo para la Mejora y la Innovación de la Docencia), otorgado por la Vicerrectoría Académica de la Pontificia Universidad Católica de Chile, para desarrollar y financiar proyectos que innoven y mejoren la educación en la universidad y contribuir a la calidad del aprendizaje estudiantil.

Gabriela Arriagada, master of science en filosofía y candidata a doctora en filosofía y ética aplicada, es investigadora asociada de Cenia de la línea RL5 “Inteligencia Artificial centrada en el ser humano”. Actualmente ejerce como profesora asistente en el Instituto de Éticas Aplicadas de la Pontificia Universidad Católica de Chile y en el Instituto de Ingeniería Matemática y Computacional (IMC UC) de la misma universidad, destacándose en temas de ética de datos, justicia, explicabilidad, sesgos y transparencia en IA. Recientemente se adjudicó dos FONDEDOC para desarrollar proyectos con enfoque en la innovación educativa, a través del uso ético y responsable de la inteligencia artificial.

El primer proyecto se titula “Diagnóstico del uso de herramientas de IA generativa en evaluaciones sumativas en Educación Superior“, y fue diseñado por la investigadora en colaboración con el profesor Patricio Velasco. Este proyecto busca analizar el uso de herramientas de IA generativa, como Chat GPT y Bard, en la educación superior. El objetivo es sistematizar los usos y motivaciones detrás del empleo de estas tecnologías, enfocándose en las evaluaciones sumativas en sociología y ciencia de datos. Se espera que los hallazgos informen y guíen a la comunidad universitaria hacia una integración ética y alineada con los valores de la institución.

El segundo proyecto se titula “Desarrollo de una experiencia activa de aprendizaje basado en el modelo Flipped Classroom con uso de Inteligencia Artificial”. Junto al profesor Abel Wajnerman, Gabriela busca implementar un enfoque de aula invertida mediado por IA generativa. Este proyecto tiene como fin promover la conciencia sobre los usos éticos de la IA en el aprendizaje, diseñando módulos online y experiencias presenciales que fomenten la interacción productiva entre estudiantes e inteligencia artificial. Se aplicará inicialmente en cursos del Instituto de Éticas Aplicadas y se espera que el protocolo desarrollado sirva como referente en la integridad académica relacionada con la IA.

La investigadora destaca las oportunidades que se desprenden para la comunidad educativa al desarrollar proyectos basados en innovación educativa e inteligencia artificial: “Al realizar un análisis pedagógico y ético detallado, podremos orientarnos ante los retos que implica la integración de la IA en el aula, permitiendo tomar decisiones bien informadas para adaptar nuestras prácticas docentes.  Adicionalmente, nos ofrece la posibilidad de realizar un diagnóstico profundo sobre cómo se implementan estas herramientas, incluyendo el currículum y la interacción estudiantil, lo cual es crucial para entender y mejorar la dinámica educativa actual.” 

La creación de directrices y material pedagógico basados en este diagnóstico contribuirá significativamente a promover las mejores prácticas docentes, beneficiando tanto a educadores como a estudiantes y enriqueciendo la adopción tecnológica. “Es más, también se pueden potenciar estas intervenciones para hacer investigaciones más robustas, por lo que desde el CENIA nos apoyarán para poder publicar, difundir, y potenciar estos proyectos”, concluye.

Por: Gianyser González

The post Investigadora Cenia se adjudica dos FONDEDOC para desarrollar proyectos de innovación educativa a través del uso ético de la IA appeared first on CENIA.

El año 2023 ha marcado un punto de inflexión en el campo de la inteligencia artificial (IA) para Chile. Con la culminación del año, el país ha alcanzado un logro significativo con la firma de la Declaración de Santiago, un documento que busca fomentar una IA ética en Latinoamérica, alineándose con los principios de las Naciones Unidas y el derecho internacional en el ámbito digital. Además, Chile se destaca en el Índice Latinoamericano de IA como líder regional, y se prepara para actualizar su Política de Inteligencia Artificial, reflejando los avances y desafíos recientes en esta área crucial.

Inteligencia Artificial al servicio de las personas

Como un motor para el desarrollo de la IA en Chile, este 2023 el Centro Nacional de Inteligencia Artificial (Cenia) cumple dos años de funcionamiento, sumando importantes logros. Cenia es un centro basal con financiamiento de la Agencia Nacional de Investigación y Desarrollo (ANID), fundado en noviembre de 2021 por cuatro universidades: Universidad de Chile, Universidad Técnica Federico Santa María, Pontificia Universidad Católica de Chile y Universidad Adolfo Ibáñez. Se dedica a impulsar la inteligencia artificial en Chile a través de tres ejes: investigación científica avanzada en cinco áreas prioritarias, transferencia tecnológica en colaboración con la industria y el Estado, y divulgación para promover la comprensión y participación en IA, especialmente de mujeres en áreas STEM. En su vocación de Centro Nacional cuenta con la participación de 12 universidades, alianzas con 9 empresas e instituciones públicas, involucrando a un amplio equipo multidisciplinario de 200 personas, entre investigadores(as), estudiantes de postgrado y equipo directivo. A continuación Te invitamos a descubrir los principales hitos e iniciativas impulsadas por el Centro Nacional de Inteligencia Artificial, en colaboración a diversos actores nacionales e internacionales, del mundo público y privado.

Índice Latinoamericano de Inteligencia Artificial

En agosto se revelaron los resultados de un estudio pionero en Latinoamérica: el primer Índice Latinoamericano de Inteligencia Artificial (ILIA), liderado por Cenia con el apoyo de Google, Amazon Web Services, Hub APTA, el BID, la CAF y la asistencia técnica de la UNESCO, la OEA y el HAI de la Universidad de Stanford. El estudio evalúa a doce países de la región, midiendo el nivel de preparación de cada uno de ellos en relación a esta tecnología. En este índice, Chile resultó ser el país mejor evaluado, obteniendo un puntaje de 73%.

“Este estudio pone sobre la mesa la situación real de los países de América Latina como región frente al desafío de la inteligencia artificial, mirando cuáles son los factores habilitantes que tienen para construir estos sistemas de IA, cuál es el nivel de madurez y cuáles son los marcos institucionales sobre los cuáles estos sistemas se construyen. Además, ofrece una visión de futuro sobre cuáles son los desafíos que tenemos que enfrentar como región para aprovechar las oportunidades, pero también eludir los impactos negativos que pueda tener. Esa información no existía para la región y ahora está disponible para todos y todas”, comenta Rodrigo Durán, CEO de Cenia.

El índice posiciona a Chile como referente regional por varias razones: conectividad, programas avanzados de estudios, egresados en ciencias de la computación, un ecosistema científico maduro y una estrategia nacional de IA robusta. A pesar de estos logros, el estudio resalta desafíos en cómputo, inversión privada y pública, y regulación específica en inteligencia artificial.

“Si se quiere avanzar en algo es super importante conocer dónde estás parado, y este estudio tiene esa intención, de mostrarnos en distintas dimensiones lo que hacemos en la academia, en la industria, evidenciar lo que piensa la gente, sus miedos y esperanzas”, agrega  Álvaro Soto, director de Cenia.

Sistema de traducción entrenado con lenguas originarias de Chile

En un esfuerzo colaborativo por rescatar y preservar el patrimonio lingüístico y cultural de Chile, representantes de comunidades indígenas, junto a Cenia y el apoyo de Antropología UC, han emprendido este año una iniciativa sin precedentes: la creación de un traductor que ha sido entrenado con dos lenguas originarias de Chile, el mapudungún y el rapa nui. El desarrollo de este sistema tiene como objetivo preservar lenguas indígenas en riesgo de extinción, adaptar vocabularios para reflejar conceptos únicos de estas lenguas y garantizar su transmisión a futuras generaciones. La iniciativa fue diseñada con un enfoque participativo, que permite a las comunidades indígenas ser parte de la co-construcción del proyecto.

Esto nació a partir de conversaciones con ambas comunidades. La comunidad Rapanui se acercó a Cenia levantando la necesidad de buscar una herramienta que permita preservar el idioma, de modo que las nuevas generaciones puedan apropiarse de ella y utilizarla  para aprender de forma entretenida y, a su vez, transmitirlo. Paralelamente, en reuniones con miembros de varias comunidades del pueblo Mapuche se detectaron necesidades similares, y desde Cenia identificaron que en la actualidad no existen herramientas de inteligencia artificial que se hagan cargo de esta necesidad, razón que motivó el comienzo de un trabajo participativo con ambas comunidades para la co-construcción de este instrumento.

“Esto inicialmente iba a ser un traductor de texto, pero en las conversaciones nos dimos cuenta que hacía falta más que solamente un traductor. Al ser lenguas con un fuerte componente oral, muchas personas saben hablar el idioma, pero no necesariamente lo saben leer o escribir, razón por la cual se hizo necesario incorporar también audio. Este es solo un punto de partida de un montón de cosas que podemos desarrollar en relación a las necesidades que vayan surgiendo desde las comunidades, y más adelante esperamos incluir a otras lenguas originarias de Chile”, comenta Carlos Aspillaga, investigador Cenia.

Todo el desarrollo tecnológico de esta iniciativa quedará documentado para su libre uso por parte de la comunidad.

Primer centro de inteligencia artificial alimentado con energías renovables

Desarrollar proyectos de IA requiere una alta capacidad de cómputo. Esta necesidad de procesamiento intensivo conlleva un alto consumo de energía, lo que tiene un impacto medioambiental considerable, especialmente si la energía proviene de fuentes no renovables. Actualmente Chile no cuenta con la infraestructura necesaria para entrenar grandes modelos fundacionales, lo que es una limitación para el desarrollo de soluciones basadas en IA en nuestro país. 

Atendiendo esta necesidad, Cenia y la Universidad de Tarapacá (UTA), firmaron este año un convenio para instalar  un gran Centro de Cómputo Nacional en el norte del país, el primero en su tipo, y que además será alimentado con energías limpias para minimizar el impacto ambiental.

La ubicación estratégica en el norte de Chile no solo aprovecha las capacidades locales, sino que también subraya el compromiso de Cenia con la descentralización y el desarrollo inclusivo en tecnología. Este proyecto no solo representa un salto tecnológico significativo para la región de Arica, sino que también se perfila como pionero en Latinoamérica por su alta capacidad de cómputo y sostenibilidad, apuntando a ser un catalizador para el progreso científico y económico en áreas clave como la minería, la astronomía y la agricultura de precisión, reforzando la posición de Chile como líder en inteligencia artificial en la región.

“Hoy en día grandes modelos de IA, como Chat GPT, están revolucionando el área. Sin un gran centro de cómputo para IA, que nos permita desarrollar esta tecnología, estamos limitados a ser solo espectadores y usuarios de esta revolución. La colaboración entre UTA y Cenia nos permitirá cerrar esta brecha y durante el 2024 desarrollar el primer Chat GPT nacional, en español, para Chile y Latinoamérica. Además, utilizando energías renovables, como un ejemplo de desarrollo sustentable”, indica Álvaro Soto, director de Cenia.

Elisa Palma, directora organizacional de Cenia, se refiere a la responsabilidad que le corresponde a  Cenia de incluir actores de todo el país en la promoción y adopción de la IA, para avanzar en la descentralización del desarrollo tecnológico de Chile, y agrega además que: “Estando en Arica tenemos el potencial de impactar a toda la macro región sur andina incorporando profesionales, estudiantes y académicos del sur de Perú y de Bolivia a esta revolución tecnológica, fomentando aún más la colaboración Latinoamericana, lo que permitiría que esta región del mundo comience a disminuir la brecha de desarrollo tecnológico en IA en comparación con el hemisferio norte.”

Inteligencia artificial para el uso controlado y eficiente de agroquímicos en cultivos

En Chile, el uso de plaguicidas ha experimentado ciertas variaciones en los últimos años. A pesar de que existe una mayor conciencia sobre los impactos de los agroquímicos en la salud y el medio ambiente, aún persisten desafíos significativos en esta materia. 

El alto uso de agroquímicos puede contaminar el suelo y las fuentes de agua, afectando la flora y fauna local, crear resistencia de plantas y malezas y contaminar los alimentos, generando efectos nocivos en la salud humana, incluyendo el riesgo de enfermedades crónicas, entre otros problemas. 

Este año Cenia se adjudicó un proyecto liderado por el INIA Quilamapu, para reducir el uso de agroquímicos en cultivos de arroz, legumbres y trigo mediante el uso de inteligencia artificial. Esta iniciativa pionera en la agricultura chilena, combina tecnología avanzada con prácticas agrícolas sostenibles, con el objetivo de minimizar el impacto ambiental y mejorar la eficiencia de los cultivos. 

El proyecto, que aún se encuentra en una etapa inicial, se centra en el desarrollo de tecnologías para identificar y mapear malezas mediante el análisis de imágenes capturadas por drones agrícolas. Se utilizarán modelos basados en redes neuronales entrenadas para reconocer diversas malezas bajo distintas condiciones climáticas y de iluminación. Además, se busca crear sistemas de recomendación personalizados para ayudar a los agricultores a gestionar y controlar las malezas de manera más eficiente y sostenible.

Gonzalo Bustos, investigador a cargo de liderar el proyecto por parte de Cenia, comenta que existen experiencias en donde se han reportado una disminución de hasta un 95% en el uso de herbicidas gracias a tecnologías de reconocimiento de malezas basadas en imágenes y una aplicación del producto más precisa y localizada. “Además de estos beneficios directos, en este proyecto esperamos fortalecer la colaboración entre el sector agrícola y el sector tecnológico, generando instancias de difusión y participación que servirán tanto para las etapas de diseño como para la evaluación en entornos reales de las tecnologías desarrolladas”, puntualiza.

Detección temprana de incendios forestales con sistemas de computer vision

De acuerdo al portal de estadística en línea Statista, entre enero y abril de 2023, los incendios forestales en Chile arrasaron con alrededor de 426.387 hectáreas, siendo las regiones más afectadas Maule, Ñuble, Biobío y La Araucanía. Una clasificación de la Corporación Nacional Forestal (Conaf) plantea que existen cuatro grupos de causas de incendios forestales: accidentales, intencionales, naturales y de causa desconocida. Según la agencia estatal, el ser humano es el principal responsable de los incendios: el 99% de ellos se inician por descuidos o negligencias en la manipulación de fuentes de calor, por prácticas agrícolas o por intencionalidad. Sumado a esto, las condiciones climáticas de la actualidad hacen que estas emergencias, más allá de la naturaleza de su origen, se tornen rápidamente fuera de control.

Investigadores de Cenia están trabajando en un sistema de inteligencia artificial capaz de detectar a tiempo el origen de incendios forestales, y de esta manera contribuir con información que posibilite una mejor gestión de las emergencias. El proyecto surgió desde la colaboración con la “non profit” francesa Pyronear,  la cual ha creado y perfeccionado en los últimos años un sistema de detección temprana utilizando métodos de visión por computadora, un campo de la IA que permite obtener información significativa de imágenes digitales, videos y otras entradas visuales, y tomar decisiones basadas en esa información. Este sistema tiene la particularidad de ser mucho más económico que otras soluciones en el mercado, y por ende se puede escalar a nivel nacional.

“Las tecnologías existen y en Cenia ya estamos trabajando con especialistas que han pasado muchos años desarrollando metodologías que funcionan a un buen nivel y a un costo bajísimo. Queremos instalar un sistema piloto dentro del mes de enero del 2024. Por lo tanto, estamos en conversaciones con la CONAF para preparar esta instalación. La idea es demostrar la utilidad del sistema y generar un plan de escalamiento a nivel regional y nacional”, asegura Cristián Buc, investigador asociado al proyecto y jefe del equipo de investigación de Cenia.

Cenia marca presencia dentro de la comunidad científica internacional

En el ámbito científico y académico, Cenia  ha marcado presencia en conferencias de renombre mundial, subrayando el impacto y la relevancia del trabajo que realizan investigadores(as) del Centro en la comunidad científica internacional. Entre las conferencias en las que han sido seleccionados para presentar investigaciones frontera en IA se encuentran, la Conference on Neural Information Processing Systems 2023 (NeurIPS), un evento sumamente competitivo, considerado el más importante del mundo del mundo sobre machine learning; la conferencia Computer Vision and Pattern Recognition 2023 (CVPR), una de las conferencias de mayor impacto en el desarrollo e investigación en IA, aprendizaje automático, computer vision y deep learning; y la Conference on Empirical Methods in Natural Language Processing 2023 (EMNLP), un evento anual que reúne a expertos de todo el mundo para presentar y discutir los últimos avances en en NLP.

The post Chile a la vanguardia de la IA: Los avances que nos deja el Centro Nacional de Inteligencia Artificial este 2023 appeared first on CENIA.

La Conferencia de Procesamiento de Lenguaje Natural Empírico (EMNLP) es un evento anual que reúne a expertos de todo el mundo para presentar y discutir los últimos avances en este campo de la inteligencia artificial. En la edición de este año 2023, la cual se llevará a cabo en Singapur, se presentarán dos papers publicados por investigadores de Cenia, los cuales han sido seleccionados para ser presentados en el salón Main Tracks de la conferencia, un espacio distinguido y reservado para los artículos que año a año reciben un alto valor desde la comunidad científica.

Cristián Buc, líder del equipo de investigación de Cenia, y uno de los autores de los dos papers aceptados en el Main Track de la conferencia, señaló que el equipo se encuentra muy contento debido a que ser aceptados dentro de esta categoría presenta un desafío sumamente competitivo, “hay alrededor de un 15% o 16% de chance de que un paper sea aceptado dentro de los Main Tracks de una conferencia, es un porcentaje súper bajo y por eso es tan competitivo publicar en EMNLP (…) estamos muy felices porque, junto al paper de Valentino, Alexander y colegas (publicado en COLT 2023), estas publicaciones son los primeros dos papers que son presentados en una conferencia de rango “A*” que sacamos desde el grupo Cenia”.

Los investigadores de Cenia: Eugenio Herrera, Tomás Vergara, y Cristián Buc, junto a Pablo Leon-Villagra (Brown University) y Marc Lluis-Vives (Leiden University), publicaron un paper en el main track de la conferencia y lleva como título: “Large Language Models are biased to overestimate profoundness”, explorando los sesgos que existen en los modelos que procesan y trabajan con lenguaje natural, como Chat GPT. 

Cristián explica que existe un concepto denominado “awe-inspiring sentences” o “non-sentical sentences” que hace referencia a aquellas frases que, si bien pueden sonar bien, no tienen sentido alguno. Al respecto, uno de los principales hallazgos publicados en este paper da cuenta que, a diferencia de los humanos, los modelos de lenguaje natural como Chat GPT y otros, tienen tendencia a sobrevalorar el nivel de significado que tienen las  “awe-inspiring sentences”.

“Lo que nosotros mostramos, es que los grandes modelos de lenguaje, a diferencia del humano, tienden a sobrevalorar el sentido de estas frases, aunque no tengan sentido alguno, lo que da cuenta de la existencia de sesgos dentro de estos modelos. (…) Además, nuestros resultados sugieren que este sesgo podría ser acentuado por el uso de reinforcement learning from human feedback (RLHF); una manera de fine-tunear los modelos usando el feedback humano.”

El segundo paper: “Deep Natural Language Feature Learning for Interpretable Prediction“, presentado desde Cenia y que también ocupará un lugar en el Main Track de la EMNLP 2023 es autoría de los investigadores: el estudiante Felipe Urrutia, y los investigadores Cristián Buc y Valentín Barriere.

Este segundo artículo aborda la interpretabilidad de los modelos de inteligencia artificial; es decir, intentar entender cómo procesan sus respuestas ante los distintos tipos de tareas que se le solicitan. Usualmente estos modelos funcionan como  una caja en la que entra una información determinada y, al realizarle preguntas y solicitarle tareas específicas, sale desde la caja una respuesta diferente. 

¿Cómo llega la inteligencia artificial a tomar una decisión y dar una respuesta determinada para la tarea que se le solicita? La respuesta es compleja, ya que la forma en la que funcionan estos modelos suele ser muy difusa. Por esta razón se  le llama  “caja negra” a todo el proceso de pensamiento que realizan los modelos de inteligencia artificial. En este sentido, el artículo publicado por los investigadores del centro aporta otra forma en la que los modelos pueden trabajar, procesar información y además presentarla de manera que sea más ordenada y transparente para su entendimiento.

“Hoy en día la regulación está pidiendo que los modelos de IA sean claros, sean transparentes con lo que está pasando” (…) nuestro trabajo, y personalmente yo, me muevo en esta línea; en tratar de que los modelos sean más transparentes, evitar cajas negras, evitar opacidad, porque eso conlleva un montón de otras problemáticas, por ejemplo, que los modelos aprendan sesgos o patrones indeseados”, señaló Felipe Urrutia, estudiante de Magíster en Ciencias de la Computación de la Universidad de Chile y primer autor de este artículo.

“La idea de incluir un modelo de árbol es partir al revés. Es que partamos de un modelo que sea fácil de entender y eso nos ayudará para poder observar qué es lo que está pasando dentro de los modelos a medida que van procesando información, para poder explicarlo, y a su vez identificar y poder cortar sesgos que no queramos (…) El modelo de árbol permite desglosar una tarea más compleja en tareas sencillas, y de este modo, incluso predecir el resultado de la tarea principal.”

Si bien los papers aún no han sido difundidos públicamente, se espera que estén disponibles para su revisión durante el mes de noviembre, previo al inicio de la conferencia EMNLP, la cual tendrá lugar el próximo 6 de diciembre de 2023 en Singapur.

Por: Emilio Belmar Santibáñez

The post Dos artículos publicados por investigadores de Cenia serán presentados en el Main Track de la conferencia EMNLP 2023 appeared first on CENIA.

“Con el boom de la inteligencia artificial en los últimos años, NeurIPS se ha transformado en el lugar donde se presentan muchas de las investigaciones y los desarrollos más relevantes a nivel global sobre aprendizaje computacional”, comenta Pablo Barceló, investigador principal Cenia y director del Instituto de Ingeniería Matemática y Computacional (IMC), al referirse a la relevancia de una conferencia que se realiza desde 1987 y que hoy se ha convertido en la más prestigiosa del mundo en su ámbito. Este año, la versión número 37 del evento Neural Information Processing Systems se desarrollará en New Orleans (EE.UU.) e incluirá tres papers de investigadores pertenecientes tanto al IMC como al Centro Nacional de Inteligencia Artificial (CENIA) y el Instituto Milenio Fundamentos de los Datos (IMFD).

Un logro importante si se considera que la conferencia, que cada año congrega a más de 10.000 académicos y representantes de la industria, es sumamente competitiva. En cada llamado para la recepción de contribuciones, se recopilan unos 10.000 papers de investigadores especializados en diversos campos ligados al machine learning y la inteligencia artificial, tales como la neurociencia y el procesamiento del lenguaje natural. De este enorme volumen de artículos, apenas el 25% es seleccionado para ser presentado durante el evento, que este año se efectuará entre el 10 y 16 de diciembre en el Centro de Convenciones Ernest N. Morial.

Barceló, coautor de dos de los papers aceptados y quien además es investigador de CENIA y el IMFD, comenta que la incorporación de un trabajo en NeurIPS sirve para confirmar que la labor que están desarrollando los investigadores tiene nivel internacional. “Te da visibilidad. Cuando se dan a conocer los papers que serán presentados, los académicos buscan todo lo que fue aceptado en sus áreas para ponerse al día, por lo que mucha gente los empieza a revisar”, señala. El director del IMC, quien además es doctor en ciencia de la computación, agrega que la inclusión en NeurIPS también potencia el prestigio global de las instituciones a las cuales pertenecen los autores. “En los trabajos que estarán en NeurIPS, no sólo aparece el nombre de los autores sino que también sus afiliaciones. Eso ayuda a que la gente en el exterior diga ‘En Chile hay un Centro Nacional de Inteligencia Artificial, existe un instituto Milenio Fundamentos de los Datos, funciona un Instituto de Ingeniería Matemática y Computacional’. Eso empieza a poner en el radar del mundo a los investigadores locales, porque les dice ‘Miren, hoy existe un polo de desarrollo importante en Chile. Quizás no tiene la productividad que se da en otros lugares del mundo, pero lo que se produce en Chile sí tiene el mismo nivel de calidad”, añade Barceló.

Uno de los papers en el que participa el director del IMC se titula “A theory of link prediction via relational Weisfeiler-Leman” y tiene como coautores a Xingyue Huang e Ismail Ilkan Ceylan, del Departamento de Ciencia de la Computación de la Universidad de Oxford, Reino Unido; y Miguel Romero Orth, del Departamento de Ciencia de la Computación de la UC e investigador de CENIA. En este trabajo, los autores abordan varias particularidades de los llamados grafos de conocimiento que hoy se utilizan en múltiples investigaciones del área del machine learning y la inteligencia artificial.
“Los grafos de conocimiento son formas de representar información semántica. Con eso me refiero a información que tiene una interpretación que pueda ser entendida tanto por humanos como por las máquinas. Pueden ser muy grandes y lo que hacen es correlacionar entidades, señalando por ejemplo ‘esta persona es amiga de esta persona’, ‘esta persona trabaja con esta otra persona’, ‘desde esta ciudad hasta esta otra ciudad hay una ruta para llegar’ o ‘esta molécula está vinculada a esta otra molécula’”, comenta Barceló.

El investigador agrega que el objetivo de las “grandes arquitecturas de machine learning, conocidas como transformers, o las redes neuronales muy profundas es que de alguna forma utilicen estos grafos para adquirir información semántica que les permitan aprender con menos datos, para poder realizar nuevas tareas y también tener un mayor grado de explicabilidad en las decisiones que toman”. Sin embargo, el problema con los grafos de conocimiento es que en general la “calidad de los datos es muy baja y éstos son muy incompletos. Hay muchas relaciones que están, por ejemplo, ‘esta persona es amiga de esta otra’, pero hay muchas otras que no están y la idea es cómo poder extraer esa información faltante, cómo aprender de la estructura del grafo para poder decir ‘mira, con alta probabilidad estas dos personas igual se conocen’. Así que si voy a ofrecerle un producto a esta persona también debería ofrecérselo a esta otra, porque a pesar de que el grafo no me dice explícitamente que estén conectadas, yo infiero de sus propiedades y estructura que deberían ser amigos”.

Hoy existen muchas formas de completar estos grafos de conocimiento o de generar la información que no está disponible, pero una de las más eficaces tiene que ver con aplicar sobre ellos redes neuronales de grafos. “Estas redes neuronales son un poco distintas a las que se han estudiado normalmente y lo que hicimos fue tratar de entenderlas en función de aquellas más conocidas. Hacemos una teoría completa de qué es lo que hacen estas redes neuronales de grafos, que predicen conexiones pero al mismo tiempo actúan como una extensión de las redes neuronales de grafos usuales”, señala Barceló. Al entender de mejor forma qué hacen estas redes neuronales de grafos, precisa el director del IMC, también es posible mejorar sus formas y entender qué funcionalidades son necesarias y cuáles son agregadas. “Mientras menos funcionalidades tenga una red, mejor aprende ya que generaliza mejor. Nosotros hacemos una especie de limpieza y podemos encontrar su núcleo fundamental, lo que hace que puedan tener un mejor rendimiento al realizar predicción de conexiones”, señala Barceló.

Los resultados del paper fueron validados teórica y empíricamente, pero aún queda camino por avanzar. “Una cosa es poder predecir si dos personas o moléculas están conectadas, pero si dos personas están conectadas y son amigas y además conocen a alguien a través de su trabajo ya no es sólo un link entre dos individuos, sino que se genera una estructura similar a un triángulo. Nos gustaría poder encontrar esas estructuras que son mucho más complejas y que al mismo tiempo muestran una mayor riqueza sobre la estructura del grafo”, dice Barceló.

¿Qué usos podría tener esa información? El estudio de las interacciones entre distintas moléculas para el desarrollo de nuevos fármacos es sólo una de ellas. “En economía, se podría detectar qué tipo de correlaciones hay entre diferentes acciones bursátiles. También se podría tener un grafo de transacciones y empezar a detectar, a partir de su estructura, posibles fraudes o instancias de lavado de dinero. Si sé que hay un fraude y al analizar el grafo veo que hay una estructura similar se podría decir ‘Con alta probabilidad acá también hay un fraude’ y así investigar más a fondo”, señala el director del IMC. Además, se puede “pensar en estudios climáticos, de geofísica o áreas como las redes sociales”.

Aplicando simetrías aproximadas

Mircea Petrache es académico del Instituto de Ingeniería Matemática y Computacional en cargo compartido con la Facultad de Matemáticas UC y, además, es investigador joven de CENIA. También es experto en aprendizaje profundo geométrico, errores de generalización, redes neuronales equivariantes, análisis topológico de datos y geometría de datos. El investigador es coautor de dos papers que serán presentados en la conferencia NeurIPS.

Uno de ellos se titula “Approximation Generalization Trade-offs under (Approximate) Group Equivariance”, en colaboración con Shubhendu Trivedi, del Laboratorio de Ciencia Computacional e Inteligencia Artificial del Instituto de Tecnología de Massachusetts (MIT). Este estudio explora cómo las simetrías aplicadas en modelos de aprendizaje pueden mejorar la precisión y la eficiencia, y que rol puede jugar el permitir simetrías aproximadas, para esos beneficios. Para explicar este fenómeno, Mircea Petrache usa el ejemplo de reconocer gatos en imágenes: “Imagina que tienes una red neuronal que debe decir si hay un gato en una imagen y dónde está.” En este caso, no importa exactamente dónde se encuentre el gato en la imagen, solo se necesita saber si hay un gato y su forma. “Esto que parece natural para los humanos, identificar que un gato que se encuentra en distintas posiciones es el mismo gato, implementarlo en una red neuronal requiere implementar modificaciones de las arquitecturas, produciendo las que se llaman redes neuronales equivariantes.”

Hay dos tipos de redes neuronales que se estudian en esta investigación: las “invariantes” y las “equivariantes”. Las invariantes funcionan como si la red no se preocupara por la posición exacta del gato: siempre detectará que hay un gato en la imagen, sin importar dónde esté ubicado. En cambio, las redes equivariantes toman en cuenta la posición del gato y ajustan su respuesta de forma predecible, en función de dónde se encuentre en la imagen: por ejemplo imponer equivarianza sirve, cuando la tarea de la red es dibujar el contorno del gato.

Petrache agrega: “Si comprendemos las simetrías, o reglas matemáticas subyacentes de una tarea, y las incorporamos en la estructura de la red neuronal, podemos obtener resultados más precisos y usar menos parámetros.” Pero, ¿qué sucede cuando se permiten errores en estas simetrías?: “No queremos que la red sea demasiado rígida y precisa, porque incluso si cambia un solo píxel en la imagen del gato, podría dejar de reconocerlo como un gato. Así que permitimos cierta flexibilidad añadiendo un poco de ‘ruido’ o permitiendo que algunas transformaciones no sean tan estrictas. Sin embargo, existe la preocupación de que si se permiten demasiados errores, se pueden perder los beneficios de tener redes neuronales más simples y eficientes”, explica.

Lo novedoso de esta investigación es que se intenta encontrar un equilibrio entre hacer que la red sea más flexible para ajustarse a los datos, y mantener el número de parámetros bajo control. El paper propone una teoría general sobre cómo lograr este equilibrio y sugiere que, en el futuro, se podría aplicar en casos específicos.

Entendiendo el funcionamiento de

las redes neuronales de grafos geométricos

El último paper que se presentará en la conferencia se titula “Three iterations of (d − 1)-WL test distinguish non isometric clouds of d-dimensional points“, y tiene como autores a Pablo Barceló (IMC-IMFD-CENIA), Mircea Petrache (IMC – CENIA), Cristóbal Rojas (IMC-CENIA) y los investigadores de postdoctorado Valentino Delle Rose y Alexander Kozachinskyi (IMC-IMFD-CENIA).

Cristóbal Rojas, doctor en matemáticas y ciencias de la computación e investigador principal Cenia, comenta que este trabajo surge de una pregunta presente en la comunidad científica que utiliza redes de grafos geométricos para clasificar, predecir y trabajar con representaciones de moléculas y sus propiedades físicas, por ejemplo para crear medicamentos. Para lograrlo, usan diferentes versiones de esta herramienta, pero no saben cuál es la mejor para cada caso, porque no existe una guía clara que permita elegir la versión adecuada, ni la cantidad correcta de parámetros.

“Las representaciones de moléculas son nubes de puntos en un espacio tridimensional. En este contexto, lo que realmente importa es la forma de la molécula, no el orden en el que se describen los átomos. Sin embargo, si se reorganiza el orden de los átomos, el modelo considerará que se está proporcionando información diferente. Para lidiar con este problema, se utilizan listados no ordenados de distancias entre los puntos como una forma de representar las moléculas”, comenta el investigador Mircea Petrache.

En este sentido, el objetivo del paper es identificar cuántas de estas distancias no ordenadas son necesarias para garantizar una representación precisa y distintiva de las nubes de puntos en el contexto de modelado molecular. Con lo anterior, sería posible determinar cuánta información esencial se puede extraer de las distancias entre puntos y si se pueden simplificar sin perder precisión en la representación.

Rojas agrega que este paper representa un gran logro, ya que cierra un problema que ha intrigado a la comunidad durante bastante tiempo. El estudio establece un teorema que guía a las personas que programan estas herramientas sobre cuál versión usar y cómo configurarla para obtener los mejores resultados en sus datos específicos. Este teorema además proporciona garantías teóricas sobre la eficiencia y el rendimiento esperado. Esto es importante ya que a menudo se considera que la inteligencia artificial es una “caja negra” en la que no se sabe cuándo funcionará bien. En este caso, se ha hecho un trabajo para abrir esa “caja” y mostrar cómo las decisiones de programación afectan los resultados.

“Esto forma parte de un área en la cual este tipo de resultados se ha buscado constantemente. En el área de las redes neuronales de grafos geométricos, que es bastante amplia, nosotros vimos pasar una gran cantidad de papers en donde intentan capturar este problema, y que en contribuciones parciales, comparaciones y contra ejemplos, tratan de resolverlo. Nuestro teorema básicamente cierra este problema y ahora la respuesta está completa. De hecho, este fue un aspecto puntual que destacó uno de los revisores del artículo”, concluye Cristóbal Rojas.

Cenia / IMC / IMFD

The post Investigadores Cenia marcan presencia en la conferencia más importante del mundo sobre machine learning appeared first on CENIA.