El 2024 quedará marcado por ser el año en el que la inteligencia artificial tuvo su boom en el mundo, sobrepasando incluso el terreno de la tecnología para impactar en todo tipo de áreas. Desde gigantes tecnológicos como Microsoft, que invierten millones en esta tecnología y buscan integrarla en sus productos, hasta en el ambiente laboral, simplemente la IA está en todos lados. Entre todos estos usos y facilidades que ha dado, un reciente estudio ha revelado una faceta menos conocida de esta tecnología pero que debería comentarse más: su limitada comprensión del mundo real.
Limitantes entre la que al final del día, sigue siendo una tecnología creada por el hombre
Si bien los modelos de IA generativa como GPT-4 han avanzado y son capaces de producir textos coherentes y convincentes, de acuerdo al medio Techspot, un equipo de investigadores del MIT ha descubierto que estos carecen de una verdadera comprensión de los conceptos y las relaciones causales. Por ejemplo, cuando se les plantearon tareas que requerían adaptarse a cambios en un entorno simulado, como encontrar una ruta en un mapa con obstáculos imprevistos, los modelos de IA mostraron una notable fragilidad.
Los investigadores del MIT diseñaron una serie de pruebas para evaluar la capacidad de los modelos de IA para comprender y razonar sobre el mundo. Estas pruebas incluían tareas como navegar por un mapa virtual o jugar al juego de Othello. Aunque los modelos podían realizar estas tareas con éxito en condiciones ideales, su desempeño se deterioraba drásticamente cuando se introducían cambios menores en el entorno. Por ejemplo, al cerrar una pequeña proporción de las calles en un mapa virtual, los modelos de IA ya no podían encontrar rutas eficientes.
Estos descubrimientos sugieren que, a pesar de los avances en el campo de la IA, aún estamos lejos de crear sistemas que puedan pensar y razonar como los humanos y sobre todo, que debemos ser cuidadosos con la información que retomamos de ellos. Los modelos de IA actuales son esencialmente herramientas estadísticas que identifican patrones en grandes cantidades de datos, pero no poseen una verdadera comprensión del significado de esa información.
Es innegable que la IA tiene el potencial de transformar muchos aspectos de nuestras vidas y que de hecho, permea cada vez más en nuestro día a día pero justo por ello, es importante tener en cuenta sus limitaciones. Los resultados de este estudio nos recuerdan que debemos ser cautelosos al confiar en la IA para tomar decisiones importantes, especialmente en aquellos casos en los que los errores pueden tener consecuencias significativas. A medida que la IA continúa desarrollándose, es crucial que los investigadores y los desarrolladores trabajen juntos para garantizar que esta tecnología se utilice de manera responsable y ética.
