La empresa china DeepSeek se balancea entre el pelotazo tecnológico y empresarial que ha supuesto la irrupción de su último modelo de inteligencia artificial y las advertencias de los expertos sobre los múltiples riesgos que su uso implica para la privacidad y la adecuada protección de los datos personales.
Sus desarrolladores mantienen que el modelo «R1» es comparable y en algunos aspectos superior al «o1» de la estadounidense OpenAI, que lanzó el ChatGPT, en cuanto se refiere a resolución de problemas matemáticos, programación o deducción lingüística, y que su desarrollo y sus servicios son además mucho más baratos que los de los gigantes tecnológicos americanos.
Pero las dudas y los temores que suscita la aplicación ha motivado ya que numerosos países hayan bloqueado su uso o prohibido su utilización en determinados dispositivos, y los informes de empresas de ciberseguridad y consultoras tecnológicas que alertan de los riesgos que supone para la privacidad y la adecuada protección de los datos personales comienzan a amontonarse.
Empresas y expertos ponen el acento en la trascendental relevancia de los modelos de IA basados en «códigos abiertos» y en que la falta de regulación y de control podría desencadenar que cualquier actor con unos conocimientos avanzados lo pudiera utilizar con fines maliciosos.
Los riesgos de una IA sin límites éticos
La compañía del sector de la ciberseguridad Panda Security ha publicado un informe sobre «Las consecuencias de que las IA generativas sí permitan vulnerar los derechos de privacidad», en el que alerta de que los cambios en la política de los grandes desarrolladores de inteligencia artificial podría derivar en consecuencias «catastróficas» como la manipulación masiva mediante campañas de desinformación, ciberataques cada vez más sofisticados o una recopilación de datos sin consentimiento previo que erosione el derecho fundamental a la privacidad.
La empresa ha incidido sin embargo en que la regulación no puede ser un esfuerzo aislado de cada país, ya que se trata de una tecnología global y su desarrollo «sin límites éticos» no entiende de fronteras, y en la importancia de desarrollar un marco común de supervisión para evitar que la inteligencia artificial se acabe convirtiendo en un arma de manipulación y de vigilancia masiva.
También la compañía ESET, especializada en ciberseguridad, ha alertado contra esos riesgos, y su director de Investigación y Concienciación, Josep Albors, ha recordado que el modelo chino está ya sometido a un intenso escrutinio por la comunidad de seguridad informática debido a las preocupaciones en torno a su privacidad, a las vulnerabilidades y a las prácticas de recopilación de datos.
O la multinacional estadounidense de la ciberseguridad Palo Alto Networks, que ha publicado también un informe sobre la irrupción del modelo chino en el que asegura que ha detectado que DeepSeek es «preocupantemente vulnerable» en algunos aspectos -entre ellos las restricciones que actúan como barreras de seguridad- o que puede llegar a producir contenidos «nefastos» cuando se utilizan con pocos conocimientos o sin una experiencia profesional especializada.
«Todas las empresas recopilan datos»
Juan Ignacio Rouyet, responsable de IA en la consultora tecnológica Eraneos, ha observado que tras la repentina incursión del modelo chino están aflorando las dudas sobre sus riesgos, y ha precisado que muchos de los problemas pueden radicar no tanto en el «código abierto» de la IA sino en la página web a la que accede el usuario, y que es donde se puede producir toda la recopilación irregular de información, un «sitio» conectado con la operadora de telecomunicaciones estatal China Mobile.
En declaraciones a EFE, sí reconoce el especial recelo ante este tipo de servicios cuando provienen de China, pero también que «todas las empresas recopilan datos», y en ese sentido incide en la importancia de las labores de regulación y de supervisión y valora que al menos en la Unión Europea se apueste con firmeza por esa regulación y por la vigilancia que traslade tranquilidad y confianza a los usuarios.
Marcos reguladores
Rouyet, que preside el laboratorio de ideas «We The Humans» -que pone el foco en la importancia de disponer de una IA «ética», no aprecia tampoco un riesgo real de que la apuesta de la UE por disponer de marcos reguladores rigorosos y sólidos acabe abriendo una brecha tecnológica por el desarrollo y el uso de la inteligencia artificial respecto a países como Estados Unidos o China, ya que está «convencido» de que se acabará imponiendo esa regulación en todo el mundo.
Y aunque advierte de los «riesgos reales» para la privacidad en el modelo desarrollado por la compañía china, circunscribe el «pelotazo» que ha dado este modelo al ámbito empresarial y bursátil por tratarse de un sistema igual de eficiente que otros que ya existen pero mucho más barato en su creación y entrenamiento, pero en ningún caso se trata de un desarrollo tecnológico innovador.
«Es más un movimiento de ficha en el tablero del ajedrez en que se ha convertido la inteligencia artificial en el mundo; es un toque de atención al mercado», ha manifestado este experto, quien ha cuestionado además la verdadera eficiencia del modelo al trascender noticias que señalan que no se invirtieron seis millones de dólares sino 1.600.
A las advertencias sobre las amenazas que entraña el nuevo modelo de IA se ha sumado la multinacional de la ciberseguridad Check Point, que ha alertado de que junto a la «explosiva popularidad» de la aplicación han surgido preocupaciones «críticas» sobre la privacidad y la seguridad de los datos empresariales.
Esta empresa ha corroborado que la irrupción de DeepSeek ha marcado «un hito» en la accesibilidad de la inteligencia artificial al combinar capacidades avanzadas de razonamiento con un acceso gratuito e ilimitado, pero ha concluido también que su modelo de recopilación de datos plantea riesgos significativos.
