El Centro Nacional de Inteligencia Artificial encabezó un proceso que exploró las brechas y oportunidades en materia de sesgos de la tecnología, pilar de la cuarta revolución industrial en ocho mercados del Foro de Cooperación Económica Asía-Pacífico.
Un estudio apoyado por el Foro de Cooperación Económica Asía-Pacífico (APEC), y realizado por el Centro Nacional de Inteligencia Artificial (Cenia) en conjunto con la consultora Foresigth, exploró las estrategias de identificación y mitigación de sesgos nocivos en sistemas de inteligencia artificial en ocho economías de la alianza.
Los hallazgos, que serán próximamente publicados junto a recomendaciones de políticas públicas en la materia, dan cuenta de que los estados tendrán un rol central en promover un avance equitativo de las nuevas soluciones basadas en IA y destacó las estrategias para detectar y revertir sesgos en varias industrias, como las finanzas o el reclutamiento.
Así lo reveló el director de Vinculación de Cenia y coordinador del grupo de expertos y expertas nacionales (pertenecientes también a las universidades Católica y Federico Santa María), Rodrigo Durán, que trabajó en el documento. “Por su funcionamiento, el sistema público es un generador y controlador de miles de datos cada día –por ejemplo, a través de los centros de salud o los registros de identidad. Si ese gigantesco volumen de recursos es puesto a disposición de la investigación y desarrollo, resguardando la privacidad de las personas, podría facilitar el entrenamiento de algoritmos verdaderamente representativos de esas poblaciones y los diversos grupos que la componen”, dijo Durán.
Los resultados de este proceso –que consideró revisión de fuentes documentales, entrevistas y mesas de trabajo– fueron recientemente abordados en una sesión de trabajo de APEC y representantes de ocho economías miembro: Japón, Rusia, México, Australia, Singapur, Canadá, Estados Unidos y Chile.
Julio Pertuzé, académico de la Universidad Católica y líder del equipo de investigadores nacionales, dijo que “este estudio nos ofreció la posibilidad de abordar perspectivas de economías y países muy disímiles del Pacifico, con distinto nivel de desarrollo, con el propósito de generar tecnologías que sean más seguras, con menor riesgo y mayor potencial de proveer bienestar a la humanidad en general”.
El informe expone que la IA está transformando las economías alrededor del mundo a una velocidad “increíblemente rápida”. En 2021, la inversión en sistemas de este tipo alcanzó los US $93.5 billones, una cifra que duplica el indicador del año 2020. Las principales áreas receptoras de estos recursos fueron el manejo de datos, el procesamiento y la computación de nube, con aplicaciones en dos sectores líderes: salud y finanzas.
Sin embargo, la creciente capacidad de transformar las economías también estriba riesgos en términos de los “sesgos nocivos” bajo los cuales son entrenados los algoritmos y diseñados los modelos para los nuevos desarrollos, de acuerdo al reporte. “Los modelos de lenguaje grande son más capaces que nunca de comprender el texto; sin embargo, reflejan cada vez más sesgos de sus datos de entrenamiento. Las estrategias de mitigación no están creciendo con la misma rapidez en todas las industrias, donde no ha habido un aumento sustancial en las mitigaciones de riesgos relacionados con la IA informadas por las organizaciones durante los últimos tres años”, sugieren los investigadores nacionales.
Los sesgos de la inteligencia artificial son uno de los grandes dilemas éticos de las disrupciones tecnológicas basadas en algoritmos, y que prometen revolucionar la sociedad global en el transcurso de este siglo. Se trata de un fenómeno que ocurre cuando un algoritmo produce resultados que son sistemáticamente perjudiciales debido a suposiciones erróneas en el proceso de aprendizaje automático (de ahí que algunos de los conceptos que lo describen sean sesgo de aprendizaje automático, de algoritmo o de IA).
En ese contexto, el estudio advierte que el surgimiento de tecnologías revolucionarias como la Inteligencia Artificial y sus impactos en la economía deben abordarse de acuerdo con valores centrados en el ser humano y buscando un progreso inclusivo y justo. “La adopción de la Inteligencia Artificial representa simultáneamente una oportunidad fundamental de progreso y desafíos relevantes para moldear estos avances de acuerdo con valores centrados en el ser humano”, subrayan los expertos chilenos a cargo del informe.
El interesante caso del sector financiero
Los especialistas del Cenia sugieren que abordar estas brechas en los sistemas de IA requiere una profunda comprensión de cómo estos se construyen. Para ello, el estudio considera una revisión de literatura analizando procesos de toma de decisiones que afectan los datos, los modelos algorítmicos y el despliegue de las nuevas plataformas.
“Como tecnología, la IA no conoce fronteras, y donde se desarrollan estos sistemas muchas veces las personas que están detrás, consciente o inconscientemente, pueden incorporar sesgos en sus desarrollos que pueden afectar negativamente a otras poblaciones. Es fundamental que los estados converjan en esta materia para mitigar los sesgos que se producen a nivel de la recolección y procesamientos, y del desarrollo y puesta en escena de los sistemas, señaló Pertuzé.
Rodrigo Durán explica que los sesgos son una tendencia a interpretar o más bien malinterpretar la información que recibe debido a la falta de representatividad de los datos o también a los sesgos que arrastran las personas que programan los algoritmos. En este proceso se distinguen dos fases, ambas propensas a riesgos: las decisiones sociotécnicas, primero, y las implicaciones y la retroalimentación, luego. “Sin embargo, definir estrategias de mitigación puede ser un desafío, ya que son específicas del contexto. Además, según el uso o el objetivo de un sistema de IA, las técnicas o los requisitos para mitigar los sesgos pueden diferir considerablemente”, advierte el reporte de los científicos nacionales.
De las 21 economías APEC, 19 han publicado documentos oficiales para fomentar la inteligencia artificial en sus países (solo Brunei Darussalam y Papúa Nueva Guinea no disponen de estrategias o políticas nacionales, hojas de ruta u orientaciones). El informe efectuado por Cenia en Chile es parte del compromiso de APEC de fomentar el desarrollo de las economías a través de recomendaciones de políticas, experiencias comparativas y la promoción de mejores prácticas.
En el caso de Chile, el Ministerio de Ciencia fue el encargado de liderar el trabajo que materializó la primera Política Nacional de IA, en 2021, un documento que define un plan de acción que reúne 70 acciones prioritarias y 185 iniciativas desde distintos servicios públicos centradas en aspectos sociales, económicos, y en la formación de talentos con un horizonte de diez años.
El director de Vinculación de Cenia comentó que uno de los principales hallazgos de la situación actual en las economías APEC da cuenta de una tensión entre regulaciones que son “más bien generalistas” frente a desarrollos que son cada vez más específicos. “Hay una incógnita allí, porque se entiende que no se puede regular de la misma forma al sector salud que al ámbito público, pero construir regulaciones específicas para cada uno de ellos hace aún más complejo la formulación de éstas”.
En este camino, el sector privado ha logrado avances más relevantes, con economías como Canadá, Japón y Singapur en la vanguardia de estrategias para la mitigación de sesgos. Un caso de interés es lo que ocurre en el sector financiero, que ha logrado, añade Durán, un nivel de especificidad profundo, que responde más a criterios de rentabilidad que a la ética.
“Ha desarrollado distintos mecanismos de autorregulación en el ámbito de los seguros, los créditos y la cobranza, cada uno con sus propias estrategias para la detección y disminución de sesgos. Es interesante porque existe conciencia que un sistema menos sesgado es un sistema más rentable. El clásico ejemplo es el de la evaluación crediticia, porque un sistema con esta brecha probablemente calificará, si no tiene ninguna estrategia para mitigar, mucho mejor a un hombre que a una mujer, porque históricamente han percibido más ingresos”.
El experto chileno agregó que “en definitiva, el sistema va a tener un perjuicio en contra de las mujeres y en favor de los hombres. Eso no solo es injusto, sino que también poco rentable para el banco, porque le entrega menos crédito a personas que podrían ser mejores sujetos de financiamiento. Una estrategia de mitigación de sesgos es mucho más rentable o eficiente que una que no lo es. Supone un aprendizaje muy interesante, aun cuando no exista un componente ético detrás, sino una perspectiva de rentabilidad”.
Luxemburgo vs Chile
El estudio da cuenta del rol que tendrán los estados para impulsar el desarrollo de una inteligencia artificial más equitativa, en contraposición al papel dominante que hoy tienen las grandes empresas tecnológicas como los grandes gestores de datos. En el caso chileno, por ejemplo, el mayor productor de estos es, precisamente, el Estado, subrayó Rodrigo Durán. “No cabe duda que tendrá un rol fundamental en cómo logramos disponibilizar esos datos para democratizar el desarrollo de los algoritmos, entrenar modelos e impulsar la investigación y la innovación, pero al mismo tiempo resguardar aspectos como la privacidad de las personas que generaron esos datos a través de regulaciones sólidas”.
“Países de todo el mundo pueden producir datos valiosos para diseñar o alimentar estos sistemas. Nuestro país está a la vanguardia a nivel latinoamericano en la discusión de políticas, estrategias y regulaciones, y desde ahí podemos cimentar acuerdos más grandes. No hay duda de que tendremos que llegar a una armonización regulatoria entre los distintos estados, que permitan la interoperabilidad de estos sistemas”, añadió el Dr. Perduzé.
El problema central para las naciones que están fuera de las economías más poderosas es que la mayoría de los desarrollos están basados en modelos creados con datos que reflejan las realidades de sus lugares de origen. En Chile, por ejemplo, esta situación se ha observado en Chat GPT, el bot conversacional lanzado por Open AI.
Durán sostuvo que “ Luxemburgo, un país con una población de 640 mil habitantes, tiene una representación en las fuentes de información que nutren al Chat GPT que es decenas de veces mayor que la de Chile (más de 20 millones de habitantes). Esto tiene que ver con que la recolección de datos tienen sesgos y las máquinas reproducen y profundizan los mismos. El desafío radica precisamente allí: cómo evitamos que se sigan acentuando las diferencias”
Allí está el rol de los estados: de qué forma podemos aprovechar los millones de datos que tributan a distintos servicios públicos para crear soluciones que sirvan a los propios ciudadanos, generen nuevas áreas para el crecimiento económico o diseñen mecanismos de frontera para resolver los problemas específicos que nos aquejan, y que difieren de los que enfrenta un hombre blanco, cristiano, norteamericano, con formación universitaria y de altos ingresos, puntualizó Durán.
“Esto no pasa por maldad o por una falta de escrúpulos, sino porque no hay datos. El volumen de datos en América Latina es sideralmente más bajo que en Alemania, Francia, Estados Unidos y China. De hecho, dentro de esos países también existen sesgos, que afectan a poblaciones como las mujeres musulmanas en Países Bajos. El hemisferio norte ha tomado la delantera en corregir esta situación, muy por delante del sur”.
Por: Luis Francisco Sandoval. Agencia Inés Llambías Comunicaciones
