OpenAI, empresa de Sam Altman, anunció que la Inteligencia Artificial ChatGPT servirá para la moderación de contenido: para ellos, incluso “será mejor que los seres humanos”.
Un comunicado de la compañía, firmado por Lilian Weng, Vik Goel y Andrea Vallone, explica que la versión GPT-4 de ChatGPT, trabajará con un sistema de moderación de contenido para interpretar reglas y matices en las políticas.
“Creemos que esto ofrece una visión más positiva del futuro de las plataformas digitales, donde la IA puede ayudar a moderar el tráfico en línea de acuerdo con la política específica de la plataforma y aliviar la carga mental de una gran cantidad de moderadores humanos”, indica OpenAI.
“Cualquiera con acceso a la API de OpenAI puede implementar este enfoque para crear su propio sistema de moderación asistido por Inteligencia Artificial”, señala la empresa.
La moderación de contenido en redes y el aporte de Open AI y ChatGPT
En los últimos años se ha criticado la falta de moderación de contenido de redes como Facebook, Twitter o Instagram, que permiten insultos o el uso de material indebido o tóxico.
Aunque ha mejorado el sistema, se entra a un nuevo nivel: el agotamiento de los moderadores humanos o bien el extremismo de la tecnología al momento de tomar decisiones.
ChatGPT, o específicamente el GPT-4, busca trabajar de forma más directa y automática, pero con la sensibilidad en la toma de decisiones que pueda tener un ser humano.
“A diferencia de la IA constitucional”, indica OpenAI en su comunicado, “que se basa principalmente en el propio juicio internalizado del modelo de lo que es seguro y lo que no, nuestro enfoque hace que la iteración de la política de contenido específico de la plataforma sea mucho más rápida y menos laboriosa”.
“Alentamos a los profesionales de Confianza y seguridad a que prueben este proceso para la moderación de contenido, ya que cualquier persona con acceso a la API de OpenAI puede implementar los mismos experimentos hoy”, subraya la empresa de Sam Altman.
