La inteligencia artificial es una tecnología que no para de crecer y desarrollarse cada vez más rápido e incluso, impacta en ambientes diversos que van más allá de la tecnología poniendo sobre la mesa sus grandes beneficios pero también increíbles incógnitas. Un claro ejemplo es Whisper, la herramienta de transcripción de OpenAI, que ha generado alarma en el sector médico.
PUBLICIDAD
Las dudas que ha dejado el funcionamiento de Whisper
A pesar de las advertencias de OpenAI sobre el uso de Whisper en áreas de alto riesgo como la salud, debido a la posibilidad de generar transcripciones erróneas, numerosas instituciones médicas la han adoptado a través de la plataforma Nabla. Más de 30.000 médicos y 40 sistemas de salud confían en esta herramienta, lo que ha encendido las alarmas sobre las implicaciones de estos errores en un ámbito tan delicado.
La dificultad de comparar las transcripciones generadas por la IA con los audios originales, debido a la política de privacidad de Nabla, hace prácticamente imposible evaluar la precisión de Whisper en el ámbito médico. Esta situación ha generado preocupaciones sobre la seguridad y la privacidad de los pacientes, especialmente considerando casos de padres que han rechazado compartir las grabaciones de las consultas médicas de sus hijos con empresas tecnológicas.
Estudios recientes han corroborado lo que se temía. Expertos que colaboran en la Universidad de Michigan han detectado errores en el 80% de las transcripciones de reuniones públicas realizadas con Whisper. Además, otro estudio de las universidades de Cornell y Virginia ha sentenciado que casi el 40% de las alucinaciones de la IA pueden ser dañinas o causar malentendidos.
Ante estos casos, OpenAI ha reconocido públicamente los problemas de fiabilidad de su herramienta, especialmente en entornos donde los errores pueden tener consecuencias graves como el médico. Críticos y expertos han instado a la empresa a abordar de manera urgente esta problemática y a mejorar la precisión de su herramienta, especialmente en el ámbito médico.
