Morris II, el gusano informático que pone en riesgo la seguridad de la IA

Expertos de Cornell Tech están desarrollando un gusano informático capaz de generar ataques y romper protecciones de seguridad de Inteligencia Artificial (IA). El gusano es capaz de entrar y propagarse en sistemas de IA como ChatGPT de OpenAI y Gemini de Google.

Morris II, nombrado así por el gusano que afectó a Internet en 1998, puede atacar a asistentes de correos electrónicos para el robo de datos y envío de mensajes spam. El gusano Morris II, desarrollado por Ben Nassi, Stav Cohen y Ron Bitton, investigadores de Cornell Tech, funciona mediante un prompt autorreplicante adverso.

El prompt autorreplicante adverso es puesto en un mensaje de correo electrónico que envenena la base de datos de un asistente de correo electrónico, lo que provoca el robo de información. Los datos pueden incluir números de teléfono, números de tarjetas de crédito, números de seguro social o información confidencial, reveló Nassi a Wired.

Del mismo lado, este ataque es capaz de esconderse dentro de un mensaje o de camuflajearse en una imagen, lo que confunde a la inteligencia artificial que está procesando el mensaje. "Básicamente, significa que ahora existe la capacidad de llevar a cabo o realizar un nuevo tipo de ciberataque que no se había visto antes", agrega Nassi. Los investigadores enviaron los hallazgos del experimento con Morris II en medida de prevención de para el sistema de la IA.