Un equipo internacional de investigadores ha desarrollado una nueva técnica llamada SOFI-P, diseñada para que las máquinas expliquen de forma simple y precisa el porqué de sus respuestas.
Cuando una Inteligencia Artificial recomienda un diagnóstico médico o evalúa un riesgo financiero, pocas veces es posible saber con exactitud qué factores influyeron en esa conclusión. Este fenómeno, conocido como el problema de las “cajas negras”, es uno de los principales obstáculos para la adopción de la IA en áreas críticas. Un equipo internacional de investigadores, con la participación del Centro Nacional de Inteligencia Artificial – CENIA, propone una solución concreta.
Para demostrar el alcance de su método, los investigadores lo aplicaron a imágenes de rayos X de tórax para detectar neumonía. El sistema identificó los casos con alta precisión y fue capaz de señalar exactamente qué zonas de la imagen resultaron determinantes para el diagnóstico, algo que los métodos tradicionales no logran hacer con la misma claridad.
Este resultado forma parte de un estudio más amplio que evaluó el método en 40 conjuntos de datos distintos, en el que superó en transparencia y eficacia a otros nueve sistemas de IA explicable de última generación.
Un método que combina IA y experiencia humana
Actualmente, la Inteligencia Artificial influye en varios aspectos que afectan de manera positiva o negativa a las personas: un diagnóstico médico, un crédito en el banco o el acceso a un beneficio social, entre otros. Si el sistema no sabe o no puede explicar su razonamiento, no hay forma de saber si la decisión fue correcta o justa. Esa opacidad podría generar desconfianza en los equipos humanos, quienes podrían terminar ignorando el uso de estas herramientas una vez adquiridas, pero además podrían enfrentarse a regulaciones legales de países que exigen total transparencia de los algoritmos. Métodos como SOFI-P son una respuesta directa a este desafío.
La técnica desarrollada se denomina Sparseness-Optimized Feature Importance with Prior Knowledge (SOFI-P) y su principal innovación radica en que no trabaja de forma aislada: incorpora el conocimiento previo de expertos humanos (médicos, ingenieros u otros especialistas) como punto de partida del análisis, refinando posteriormente mediante un proceso de optimización automática.
A diferencia de otros métodos que entregan listas extensas de factores con distintos grados de relevancia, SOFI-P identifica únicamente los elementos más críticos para cada decisión, reduciendo así la cantidad de información que debe interpretar el profesional a cargo. Los investigadores también demostraron que este enfoque funciona bien incluso cuando el conocimiento inicial de los expertos no es del todo preciso.
La transparencia en los sistemas de IA no es solo una demanda académica: en muchos países se están desarrollando marcos normativos que exigen que los algoritmos utilizados en decisiones de alto impacto, como otorgar un crédito, determinar un diagnóstico o evaluar un riesgo legal, puedan justificar sus conclusiones. En ese contexto, métodos como SOFI-P representan un avance científico que responde a requisitos regulatorios que la industria y las instituciones públicas probablemente deberán cumplir en los próximos años.
La investigación es obra de tres especialistas: el Dr. Gonzalo Nápoles, de la Universidad de Tilburg (Países Bajos); la Dra. Isel Grau, del Instituto Eindhoven de Sistemas de Inteligencia Artificial (EAISI) de la Universidad de Tecnología de Eindhoven (TU/e, Países Bajos); y la Dra. Yamisleydi Salgueiro, investigadora asociada de CENIA y académica de la Facultad de Ingeniería de la Universidad de Talca. La Dra. Salgueiro es experta en ciencias de la computación e Inteligencia Artificial, con especialización en optimización multiobjetivo, aprendizaje profundo y microrredes eléctricas inteligentes. En CENIA, su trabajo se integra en la línea de investigación “Aprendizaje Profundo para Visión y Lenguaje” (RL1).
El estudio fue publicado en Neurocomputing, revista científica de prestigio mundial especializada en computación inspirada en el cerebro y en aplicaciones fundamentales de la Inteligencia Artificial.
