Un equipo de investigadores del centro de investigación Cornell Tech ha desarrollado un gusano informático de inteligencia artificial generativa llamado Morris II, capaz de propagarse entre sistemas y potencialmente comprometer la seguridad de datos o instalar programas maliciosos en el proceso.
Este descubrimiento plantea nuevos desafíos en el ámbito de la seguridad cibernética, especialmente en relación con modelos de IA como ChatGPT de OpenAI y Gemini de Google.
Características y alcance de la inteligencia artificial Morris II
Morris II, inspirado en el infame gusano informático Morris de 1988, es capaz de replicarse y propagarse entre sistemas utilizando mensajes de autorreplicación adversarios.
Este gusano fue creado por los investigadores Ben Nassi, Stav Cohen y Ron Bitton, quienes demostraron su funcionamiento en entornos de prueba vinculados a sistemas de correo electrónico experimental asociados con ChatGPT, Gemini y LLaVA.
El equipo de investigación demostró dos métodos de ataque potenciales utilizando Morris II. El primero involucra la inserción de mensajes de texto adversarios que comprometen la base de datos del sistema de correo electrónico, lo que resulta en la propagación del gusano a otros usuarios.
El segundo método implica la incrustación de código malicioso dentro de imágenes, lo que lleva al reenvío de mensajes maliciosos a otros destinatarios.
Llamado a la seguridad y regulación
Aunque Morris II aún no se ha observado en entornos digitales reales, su existencia teórica plantea preocupaciones sobre la seguridad de la IA generativa y destaca la necesidad de adoptar enfoques de seguridad más sólidos en el diseño de sistemas de inteligencia artificial.
Este estudio también resalta la importancia de establecer regulaciones y protocolos de protección más estrictos para abordar las posibles amenazas que la IA generativa podría representar para la seguridad de la información digital.
