Alexandra García es la única mujer chilena seleccionada como red teamer de Open AI

Alexandra García estudió Bioquímica en la Universidad de Chile e hizo un magíster y un doctorado en la Pontificia Universidad Católica de Chile. En este último programa, Alexandra conoció la programación y de esta manera empezó a relacionar su experiencia profesional y sus intereses personales hacia la neurociencia, encontrándose con la informática y la programación. Hoy cursa un post doctorado en el Centro Nacional de Inteligencia Artificial (Cenia).

En el momento de cursar su doctorado, Alexandra declara que conoció recién a la primera referente mujer en computación, Christ Devia, académica de la Universidad de Chile e investigadora Cenia, y quien despertó en Alexandra el profundo interés sobre programación como oyente en una de sus clases. De esta manera, Alexandra, poco a poco y de forma muy autodidacta, se fue relacionando más con la ciencia de la computación y, a su vez, compartiendo sus conocimientos en neurociencia y descubriendo cómo estas disciplinas se encontraban entre sí.

Entre intereses y propósitos en común, Christ Devia y Alexandra García convergieron en la postulación de un postdoctorado, que si bien en una primera instancia no resultó, esto animó a que ambas quisieran seguir colaborando y escribieran un primer paper juntas.

Poco a poco Alexandra fue rompiendo su propio techo de cristal, y tras aceptar un consejo de Christ, se atrevió a postular a una pasantía en Open AI donde requerían a personas expertas en distintas áreas del conocimiento, y que tenía por requisito el grado de doctora, el cual Alexandra ya tenía. 

“En ese entonces postulé (sin mucha fe la verdad) y me olvidé,  pensando en que si no resultaba no importaba. Después entré como postdoc a Cenia y a los tres meses (enero 2024) me llegó un email muy misterioso que básicamente me daba la bienvenida, y donde me decían que había sido seleccionada por OpenAI, donde tenía que hacer una prueba final para quedar definitivamente y de hecho, tuve que preguntar a otras personas si el remitente era real, porque no lo creía hasta que me confirmaron que sí, que era de parte de OpenAI”.

“En ese momento hablé con Álvaro Soto, porque era un requisito por parte de OpenAI en términos de confidencialidad.” Tras la aprobación de la primera prueba, Alexandra, en el mes de febrero, confirmó su estancia en OpenAI, pero esta participación no confirmaba cuántos proyectos iba a desarrollar, sino que fue paulatino, tanto la información que le entregaban como su participación.

“Recién leyendo la publicación que ellos hicieron, me di cuenta de la envergadura del logro, porque en el fondo fueron cuatro etapas y yo quedé en las cuatro, pero fue muy en retrospectiva. Desde marzo hasta junio comenzaron a llegarme proyectos que correspondían a la última versión GPT-4o System Card, pero que yo no supe hasta que lo publicaron”. 

Recién en estos momentos Alexandra pudo comentar que participaba en esta red, porque incluso con su familia, amigos y colegas, tenía que ser algo incógnito, secreto y confidencial. 

Si bien Alexandra tiene restricciones, sí comparte que una de sus funciones y/o labores es parecer un usuario y trabajar en ciberseguridad, con temáticas de sesgos, odio, violencia y cualquier contenido que pueda ser utilizado para deepfake o suplantación de identidades, en esa línea. 

“Por ejemplo, si persuades al modelo para preguntarle cómo crear una bomba, cómo hacer un asalto o cómo hacer un experimento de algo que solamente un nicho experto sabría, información que no es de fácil acceso o que corresponde a un área experta, entonces uno trabajaba con el modelo, en diferentes tipos: textos, imágenes, videos y voz, que era la gracia de este nuevo modelo que tiene esta característica de hablar o tener una conversación contigo”.

Alexandra comenta que si bien hay distintas fases experimentales y de conocimiento, llega un momento en donde la creatividad es su mejor amiga para el entrenamiento del modelo y cómo ponerlo a prueba, siendo un proceso muy selectivo de aproximadamente 100 personas contratadas, hablando entre todos 45 idiomas distintos y reuniendo a 29 países (según la publicación de OpenaAI).

Una de las percepciones más fuertes de la Dra. García en este sentido es la poca representatividad a nivel Latam, dado que según su conteo personal, sólo habrían aproximadamente 5 personas de Latinoamérica, y eso le llamó mucho la atención, más entiende que el llamado ha sido muy exclusivo dependiendo de las etapas. 

El documento y la versión de Chat GPT de la que se refiere Alexandra, está disponible en el siguiente enlace: https://openai.com/index/gpt-4o-system-card/

Alexandra García, comenta que hasta hace poco OpenAI le confirmó personalizadamente que quieren seguir trabajando con ella para versiones futuras de la empresa, siendo hoy una estrella que colabora exclusivamente con una de las empresas más grandes del mundo en Inteligencia Artificial, y en donde está más que considerada por sus conocimientos, interdisciplina y por sobre todo el respeto a su trabajo. 

Alexandra hace un hincapié fundamental en cuanto a la diversidad e igualdad de género necesario en la áreas de ciencias, dado que confiesa que en ocasiones puede ser “intimidante”.
“Siempre he sentido que soy la única mujer en el grupo. Y quizás para algunas personas puede parecer bueno, pero también es intimidante. Siento que he tenido que desarrollar o esforzarme por incorporar ciertas características, como por ejemplo la naturalidad de decir su opinión aunque eso sea incómodo”.

Finalmente, la Dra. García enfatiza en que su bandera de lucha está focalizada en defender lo sensible como un valor, y que las personas que sienten que muchas veces esa característica es una debilidad, ella cree firmemente que es un poder que abre muchas puertas, y entrega muchas oportunidades de enriquecimiento personal y comunitario. 

¿Cómo crees que tu historia podría inspirar a otras personas?
“Han aparecido varias personas en mi vida que me han dado un impulso, y muchas veces quise desistir de este rubro que es muy exigente, creyendo a pensar que siempre hay algo o alguien mejor. Y recuerdo que en mi agradecimiento en el doctorado, dediqué ese proceso y ese logro a todas las personas que se sienten identificadas como personas más sensibles, neurodivergentes o no comprendidas por el mundo”.
Alexandra en este punto en particular destaca, “no creo que ningún trabajo valga la pena tu salud mental y siempre hay que ser fiel a uno mismo”.

Por: Pía Cassone

Noticias

Noticias Recientes