La digitalización está transformando el funcionamiento de las empresas, ofreciendo oportunidades y beneficios significativos en cuanto a eficiencia, productividad y acceso a la información. Sin embargo, esta transformación tecnológica también genera nuevos desafíos éticos y de integridad que deben ser abordados desde diferentes áreas expertas.
En este contexto, Marcelo Mendoza, investigador principal de Cenia de la línea RL5 “IA centrada en las personas” participó este miércoles 28 de agosto en la sesión “Integración de la Ética en IA: El rol de los programas de integridad”.
A través de una keynote titulada “Integración de la ética en la IA”, el académico e investigador profundizó en temáticas y ejemplos como Chat GPT (OpenAI), su impacto, usabilidad, competencias y la importancia de la protección de datos personales al momento del entrenamiento de modelos que traen estas nuevas herramientas a la hora de sus actualizaciones. Su presentación concluyó en tres reflexiones principales:
- Los sistemas GenAI representan un enorme avance tecnológico que muestra la creatividad del ingenio humano.
- Los sistemas GenAI ofrecen muchas posibilidades como asistentes, y facilitan tareas relacionadas con la producción de contenidos.
- Existen varias amenazas que surgen cuando la tecnología avanza. Destacan entre ellas los errores que estos sistemas cometen, denominados en el área de alucinaciones.
Marcelo Mendoza, luego de dar una presentación introductoria, participó en un segundo rol como mediador de la sesión, junto a los participantes: Mora Kantor (Mercado Libre – Argentina), Andrés Cuevas Cárdenas (Emergent Cold – Chile) y Patricia Dominguez (Banco Pichincha, Ecuador). En la conversación se compartieron planes de trabajo, y proyectos e ideas en marcha, para integrar y enlazar el sector público con el privado en colaboración, accionando desde la el intercambio de prácticas que involucran a todas las personas, independiente del país, todos concluyeron que a fin de cuentas se necesita una regulación, una política pública-privada para el uso ético de la IA y la ciencia de datos, porque son personas y a la vez usuarios.
En palabras del académico DCC UC e investigador Cenia: “La inteligencia artificial no reemplaza a las personas, chat GPT o la inteligencia artificial generativa, siempre necesita de un humano para poder hacer una verificación de la calidad de los datos que nos están entregando en cuanto a las consideraciones éticas y cómo esto impacta en la integridad de las personas”.
La gestión responsable de datos, la protección de la privacidad, la ciberseguridad y la equidad en el acceso a la tecnología son aspectos cruciales que requieren atención para asegurar que la digitalización contribuya al bienestar humano y no comprometa la integridad empresarial. Además, es importante reconocer que la digitalización, mediante la automatización de las cadenas productivas, puede desplazar a comunidades enteras y, en algunos casos, en detrimento de los derechos humanos. Esta realidad añade una debida diligencia cuidadosa y responsable para mitigar posibles impactos negativos en las personas y las comunidades afectadas.
Encuentra más información: https://semanadeintegridad.com/
Por: Pía Cassone
