Un nuevo estudio de OpenAI ha revelado que ChatGPT-4 podría dar respuestas diferentes dependiendo del nombre del usuario, aunque solo en un número muy reducido de situaciones. Esto plantea preguntas interesantes sobre el impacto de los sesgos en los modelos de lenguaje, como ChatGPT, y cómo la inteligencia artificial maneja señales sutiles relacionadas con la identidad de los usuarios.
PUBLICIDAD
¿Por Qué ChatGPT Podría Responder de Manera Diferente Según Tu Nombre?
Desarrollar una IA como ChatGPT no es solo cuestión de establecer un conjunto de reglas claras. Estos modelos de lenguaje (LLM, por sus siglas en inglés) se entrenan utilizando grandes cantidades de datos del mundo real, lo que les permite aprender patrones y mejorar sus respuestas. Sin embargo, esos datos a menudo contienen sesgos humanos, incluidos estereotipos de género y raza.
Cuanto más se entrena a estos modelos, más se pueden reducir estos sesgos, pero eliminarlos por completo es muy difícil. Es en este contexto que OpenAI decidió estudiar si las respuestas de ChatGPT pueden verse afectadas por el nombre del usuario, un aspecto que puede revelar información implícita sobre género o etnia.
¿Qué Revela el Estudio de OpenAI?
El estudio de OpenAI, titulado “Equidad en primera persona en los chatbots”, investigó si ChatGPT trataba a los usuarios de manera diferente dependiendo de sus nombres, especialmente en tareas cotidianas como pedir recomendaciones de entretenimiento. Para ello, analizaron una gran cantidad de transcripciones reales y examinaron si las respuestas a solicitudes idénticas variaban según el nombre del usuario.
OpenAI señaló que no encontraron diferencias significativas en la calidad general de las respuestas de ChatGPT basadas en nombres que indicaban diferentes géneros, razas o etnias. En las pocas ocasiones en que los nombres generaron diferencias, solo en menos del 1% de los casos esas diferencias reflejaban un estereotipo dañino.
¿Es Significativo el 1% de Respuestas Basadas en Estereotipos?
Aunque menos del 1% podría parecer insignificante, OpenAI reconoce que no es 0%, lo que sugiere que hay margen para mejoras. De hecho, cuando se profundizó en los datos, se descubrió que los estereotipos de género eran más frecuentes en campos como el entretenimiento y el arte, donde las respuestas de ChatGPT reflejaban algunas tendencias dañinas. A pesar de que estos sesgos solo representaban un 0,2% de las respuestas, siguen siendo un recordatorio de los desafíos que plantea la eliminación total de los sesgos en la IA.
Sesgos de Género en ChatGPT
Este no es el primer estudio que aborda los sesgos en ChatGPT. Investigaciones previas, como las de Ghosh y Caliskan (2023), encontraron que ChatGPT perpetuaba estereotipos de género al asignar pronombres incorrectos en ocupaciones. También, Zhou y Sanfilippo (2023) concluyeron que ChatGPT mostraba un sesgo implícito al asignar títulos profesionales, como cuando utilizaba “él” o “ella” de forma incorrecta en lugar de un pronombre neutro.
PUBLICIDAD
Si bien estos estudios se realizaron antes del lanzamiento de ChatGPT-4, destacan el reto constante de abordar los sesgos en los modelos de IA. Los datos más recientes de OpenAI indican que con la versión ChatGPT-4, las respuestas con estereotipos dañinos han disminuido a menos del 0,1%, un avance importante respecto al 1% que se observaba en versiones anteriores del modelo.
¿Cómo Probar el Impacto de Tu Nombre en ChatGPT?
Si alguna vez te has preguntado si ChatGPT responde de manera diferente dependiendo de cómo te presentas, podría ser interesante probar cambiando el nombre que proporcionas en una sesión. Aunque los estudios recientes muestran que los sesgos perjudiciales en la versión actual de ChatGPT-4 son muy raros, siempre es útil experimentar. Recuerda que los sesgos, aunque pequeños, siguen presentes en algunos casos.
El esfuerzo continuo por mejorar la imparcialidad de ChatGPT es evidente, y aunque queda camino por recorrer, la reducción significativa de respuestas sesgadas en los modelos más recientes es una señal alentadora para el futuro de la IA ética.
