El International Panel on the Information Environment (IPIE) se lleva a cabo por primera vez en su historia, luego de que durante la Nobel Summit 2023, una gran cantidad de científicos de distintas disciplinas decidieron crear una instancia en torno a este tópico. El investigador principal de Cenia y profesor del Departamento de Ciencias de la Computación UC, Marcelo Mendoza, fue contactado para ser parte de este panel, en donde su principal objetivo será mitigar el mal uso de la IA en campañas de desinformación en medios de comunicación y redes sociales.
Desde la masificación de la inteligencia artificial en el público general, con la llegada de Chat GPT y otros modelos de IA que generan contenido, han surgido discusiones al respecto sobre cuáles son los límites y normas alrededor de estas herramientas. Al navegar por redes sociales es común encontrar fotos trucadas creadas con inteligencia artificial y que, a simple vista, parecen reales.
La creación de contenido audiovisual con IA, ya sean imágenes trucadas, videos y, últimamente también herramientas de audio que son capaces de simular la voz de una persona, representan un peligro para la veracidad de la información que vemos en internet. Las “fake news” son cada vez más reales y comunes en las redes sociales, por lo que no es de extrañar que cualquiera pueda caer en ellas.
Para dar frente a esta situación, por primera vez en el mundo se está llevando a cabo el “International Panel on the Information Environment” (IPIE), con el objetivo de generar consensos y documentos que den ideas de cómo vencer el mal uso de la Inteligencia artificial en las campañas de desinformación, mitigar los efectos negativos de la manipulación algorítmica y otros comportamientos que amenazan la integridad de la información que vemos en redes.
Al respecto, Marcelo Mendoza, investigador principal de la línea de investigación “IA centrada en el ser humano” en Cenia, y quien será parte del “Scientific Panel on Global Standards for AI Audits” del IPIE, señala que en el comité de expertos buscarán que estas propuestas influyan en las políticas públicas y den paso a marcos regulatorios en torno al desarrollo responsable de la IA en el ecosistema informativo.
“Buscaremos que las propuestas se vinculen al entorno estratégico, estas acciones deben ser inmediatas, ya que el mal uso de la IA en el ámbito informativo pone en riesgo el sistema democrático, (…) mi rol será proponer orientaciones para un desarrollo responsable de la IA en el ámbito de las redes sociales, mitigando los riesgos inherentes de su mal uso en campañas de desinformación en redes sociales”
La comisión a la que pertenece Marcelo sostuvo una reunión inicial el 27 de noviembre, y contará con 9 sesiones mensuales, en las que él junto a los demás expertos se reunirán para discutir y elaborar documentos que establezcan un marco regulatorio vinculante que pueda ser de utilidad para encaminar políticas públicas en distintos países y organismos internacionales con el fin de mitigar las campañas de desinformación que usan IA.
Por: Emilio Belmar Santibáñez
