Los hackers informáticos respaldados por el Estado de Rusia, China e Irán estuvieron utilizando herramientas de OpenAI, respaldada por Microsoft, para perfeccionar sus habilidades y engañar a sus objetivos, según un informe publicado el miércoles.
Microsoft dijo en su informe que había rastreado grupos de piratería afiliados a la inteligencia militar rusa, la Guardia Revolucionaria de Irán y los gobiernos de China y Corea del Norte mientras intentaban perfeccionar sus campañas de piratería utilizando grandes modelos de lenguaje. Esos programas informáticos, a menudo llamados inteligencia artificial, utilizan enormes cantidades de texto para generar respuestas que parecen humanas.
La compañía anunció el hallazgo mientras implementaba una prohibición general de que los grupos de hackers respaldados por el estado utilicen sus productos de inteligencia artificial.
“Independientemente de si hay alguna violación de la ley o de los términos de servicio, simplemente no queremos que esos actores que hemos identificado, que rastreamos y sabemos que son actores de amenazas de diversos tipos, no los queremos teniendo acceso a esta tecnología”, dijo el vicepresidente de seguridad del cliente de Microsoft, Tom Burt, en una entrevista antes de la publicación del informe.
Los funcionarios diplomáticos rusos, norcoreanos e iraníes no respondieron de inmediato a los mensajes en busca de comentarios sobre las acusaciones.
El portavoz de la embajada estadounidense de China, Liu Pengyu, dijo que se oponía a “las difamaciones y acusaciones infundadas contra China” y abogó por el despliegue “seguro, confiable y controlable” de la tecnología de inteligencia artificial para “mejorar el bienestar común de toda la humanidad”.
La acusación de que hackers informáticos respaldados por el Estado fueron descubiertos utilizando herramientas de inteligencia artificial para ayudar a aumentar sus capacidades de espionaje probablemente subraye las preocupaciones sobre la rápida proliferación de la tecnología y su potencial de abuso. Altos funcionarios de ciberseguridad en Occidente estuvieron advirtiendo desde el año pasado que actores deshonestos estaban abusando de tales herramientas, aunque hasta ahora los detalles específicos fueron escasos.
MICROSOFT IMPLEMENTARÁ MEDIDAS PARA EVITAR QUE HACKERS USEN SU IA
“Este es uno de los primeros, si no el primero, en el que una empresa de inteligencia artificial sale a discutir públicamente cómo los actores de amenazas a la ciberseguridad utilizan las tecnologías de inteligencia artificial”, dijo Bob Rotsted, quien dirige la inteligencia de amenazas a la ciberseguridad en OpenAI.
OpenAI y Microsoft describieron el uso de sus herramientas de inteligencia artificial por parte de los hackers informáticos como “en etapa inicial” e “incremental”. Burt dijo que ninguno de los dos había visto a los ciberespías lograr avances.
“Realmente los vimos usando esta tecnología como cualquier otro usuario”, dijo.
El informe describe los grupos de hackers que utilizan los modelos de lenguaje grandes de forma diferente.
Los hackers informáticos que supuestamente trabajaban en nombre de la agencia de espionaje militar rusa, ampliamente conocida como GUR, utilizaron los modelos para investigar “varias tecnologías de satélites y radares que pueden pertenecer a operaciones militares convencionales en Ucrania”, dijo Microsoft.
Microsoft dijo que los hackers norcoreanos utilizaron los modelos para generar contenido “que probablemente sería utilizado en campañas de phishing” contra expertos regionales. Los piratas informáticos iraníes también se apoyaron en los modelos para escribir correos electrónicos más convincentes, dijo Microsoft, usándolos en un momento para redactar un mensaje que intentaba atraer a “feministas prominentes” a un sitio web con trampas explosivas.
El gigante del software dijo que los piratas informáticos respaldados por el Estado chino también estaban experimentando con grandes modelos de lenguaje, por ejemplo para hacer preguntas sobre agencias de inteligencia rivales, cuestiones de ciberseguridad e “individuos notables”.
Ni Burt ni Rotsted quisieron saber el volumen de actividad ni cuántas cuentas habían sido suspendidas. Y Burt defendió la prohibición de tolerancia cero hacia los grupos de hackers -que no se extiende a ofertas de Microsoft como su motor de búsqueda, Bing- señalando la novedad de la IA y la preocupación por su despliegue.
