Diferentes instituciones gubernamentales del Reino Unido se encuentran en el medio de una polémica, después de que un informe de The Guardian encontrara que están usando la inteligencia artificial para la toma de decisiones, sobre los beneficios sociales hacia los ciudadanos.
Empleados de estas organizaciones estarían dejando en manos de los algoritmos quienes reciben una ayuda social o quienes reúnen las condiciones para tener una licencia de matrimonio.
Infobae resalta, citando la nota de The Guardian, que la situación escala a ministerios y fuerzas policiales británicas. Dejan que la inteligencia artificial tome decisiones relacionadas al bienestar de las personas, beneficios migratorios y, en algunos casos, hasta la justicia penal.
El problema es que estas inteligencias artificiales no están preparadas para emitir un dictamen acertado, y encuentran que en muchos casos arrojan resultados discriminatorios.
“Algunos casos destacados incluyen un algoritmo del Departamento de Trabajo y Pensiones (DWP) que, de acuerdo a un miembro del Parlamento, condujo erróneamente a que varias personas perdieran sus beneficios”.
A eso le suman que una herramienta de reconocimiento facial que usa la Policía identifica como delincuentes, en su mayoría, a personas de color, sin ningún otro argumento sostenible. Usarían esto para negar asilos o ingresos legales al territorio británico.
El Ministerio del Interior sostuvo hace un tiempo que comenzó a utilizar la inteligencia artificial para acelerar la lectura de pasaportes en los aeropuertos. Eso, dijeron, los ayudó a mejorar la detección de solicitudes falsas de matrimonio que buscaban una residencia permanente, por medio de uniones ilegítimas.
Sin embargo, al verificar las evaluaciones internas, de solicitudes rechazadas, hay una desproporción en ciudadanos provenientes e Albania, Grecia, Rumania y Bulgaria. Metieron la lupa sobre algunas solicitudes y muchas no eran falsas, es decir que la IA falló.
