La inteligencia artificial de Copilot se podría estar saliendo de control, con el contenido de imágenes que genera a través del sistema integrado de Dall-E. Así lo advierte un ingeniero de Microsoft, que informa que el mecanismo de aprendizaje automático estaría publicando ilustraciones violentas y sexuales, a cualquier usuario sin ningún tipo de restricción.
Hipertextual reseña que el ingeniero en cuestión se llama Shane Jones. Es gerente de software en Microsoft y dice que Copilot Designer no respeta los sistemas de seguridad que se le impone a la inteligencia artificial.
El ingeniero estuvo a cargo de un trabajo de supervisión al modelo de inteligencia artificial durante tres meses. Encontró, en reiteradas ocasiones, la generación de imágenes ilegales. Reportó la eventualidad a sus superiores y contó en una entrevista que lo ignoraron por completo.
Jones compartió sus hallazgos en los que muestra ejemplos de imágenes generadas por Copilot Designer que incluían demonios, adolescentes con armas de fuego, mujeres sexualizadas en contextos violentos y menores consumiendo todo tipo de drogas.
El sitio antes mencionado añade que además de las imágenes anteriormente descritas, el sistema de Copilot también genera ilustraciones de personajes animados, de cómics, videojuegos o películas en entornos alejados de su realidad.
Se cree que el problema se debe a la forma en que Copilot Designer está entrenado. El modelo se basa en una gran cantidad de datos, algunos de los cuales pueden contener contenido inapropiado.
Jones saltó las barreras de sus jefes y debido a que fue ignorado acudió a la Comisión Federal de Comercio de los Estados Unidos, con una carta en la que les solicita tomar acciones en contra de esta eventualidad.
“Durante los últimos tres meses, he instado repetidamente a Microsoft a eliminar Copilot Designer del uso público hasta que se puedan implementar mejores salvaguardas”. Dijo, además, que la empresa sabía de estos problemas incluso antes del lanzamiento e igual fueron para adelante.
“Si este producto comienza a difundir imágenes dañinas y perturbadoras en todo el mundo, no hay lugar para denunciarlo, ni número de teléfono al que llamar, ni forma de escalar el problema para solucionarlo. inmediatamente”, añadió Jones en reclamo a Microsoft.
El gigante de Redmon emitió un comunicado políticamente correcto en el que reconoce el problema y dice haber tomado medidas para solucionarlo. La compañía asegura haber actualizado Copilot Designer para evitar que genere contenido inapropiado.
