Los productos públicos de OpenAI, como su popular generador de texto ChatGPT y su impresionante generador de imágenes DALL-E, son conocidos por su naturaleza prudente. Cualquier pregunta de naturaleza sexualmente explícita (NSFW) resultará en respuestas recatadas.
PUBLICIDAD
Sin embargo, parece que esto podría cambiar en el futuro. Según un informe de Wired, la “especificación de modelo” recientemente publicada por la compañía (un borrador de documentación que describe el comportamiento esperado de la IA) indica que, si bien las creaciones de OpenAI actualmente no pueden generar contenido obsceno, la puerta se deja abierta para que esto cambie en una nota de “comentario”.
“Estamos explorando si podemos brindar de manera responsable la capacidad de generar contenido NSFW en contextos apropiados para la edad a través de API y ChatGPT”, se lee en el documento. “Esperamos comprender mejor las expectativas de los usuarios y de la sociedad sobre el comportamiento del modelo en esta área”.
El sexo y la IA: un área compleja
A pesar de los esfuerzos de OpenAI por mantener sus productos libres de contenido sexual, el sexo ha sido un área clave de experimentación en el campo de la IA. Hemos visto personas entablar conversaciones pícaras e incluso relaciones románticas con IA (incluidas algunas desarrolladas por OpenAI), así como sitios web que generan imágenes lascivas y, hasta ahora, en su mayoría fallidos, intentos de crear videos de este tipo.
En la práctica, los resultados suelen ser éticamente cuestionables. La policía ha investigado múltiples incidentes de imágenes de estudiantes desnudos que circulan en escuelas intermedias y secundarias, y las celebridades han sido blanco de deepfakes sexuales generados por IA.
Además, se intensifican las críticas comunes a la IA: si un sistema de IA genera contenido NSFW, ¿no se siente invasivo para aquellos que no dieron su consentimiento para ser incluidos en los datos de entrenamiento del modelo?
OpenAI y el futuro del contenido NSFW
Los expertos de OpenAI responsables de determinar el comportamiento de sus sistemas de IA sin duda son conscientes de este contexto y las críticas, de ahí la redacción cuidadosa de la nota de comentario.
PUBLICIDAD
Lo que hace que todo el tema parezca aún más inminente es el generador de video Sora aún inédito de OpenAI, que puede crear imágenes sintéticas convincentes (cuando se le preguntó a la CTO de OpenAI hace unos meses si el software podía generar videos de desnudos, ella respondió que “no estaba segura”).
Una cosa es segura: independientemente de si OpenAI decide dar este paso o no, es probable que la pornografía siga siendo una fuerza impulsora en la industria de la IA. Queda por ver cómo se manejará este tema de manera responsable y ética, y qué impacto tendrá en la sociedad en general.
