Los paralelismos con la app de videos cortos despiertan inquietudes sobre privacidad de datos, censura y vulnerabilidades de seguridad
Buenos Aires-(Nomyc)-DeepSeek, la startup china de inteligencia artificial, genera entusiasmo con su chatbot de IA gratuito y de código abierto, aunque sin embargo, su rápido ascenso generó comparaciones con TikTok y preocupaciones sobre la privacidad, la censura y la seguridad y al igual que con la popular aplicación de videos cortos, DeepSeek es una empresa tecnológica china que logró una rápida expansión global, lo que generó preocupación sobre la seguridad de sus datos y la posible influencia del gobierno chino, en sus contenidos.
Ambas plataformas, fueron objeto de interrogantes por su capacidad para recopilar grandes cantidades de datos de usuarios, lo que a su vez, plantea dudas sobre cómo se utiliza y protege esa información.
La preocupación radica en que DeepSeek podría verse presionada para compartir datos con el gobierno chino o ser utilizada para promover intereses geopolíticos e incluso, algunos expertos advierten que DeepSeek podría ser una “evolución mejorada” de las tácticas de recopilación de datos empleadas por TikTok y en relación a la naturaleza de código abierto de DeepSeek, aunque fomenta la innovación, también aumenta el riesgo de que la tecnología sea utilizada para fines maliciosos, como la difusión de desinformación o la manipulación de la opinión pública, un problema que también se ha planteado con TikTok.
A esto, se le suma la preocupación por la censura, ya que se observó que DeepSeek evita responder preguntas sobre temas sensibles para el gobierno chino, como la situación de los uigures o la soberanía de Taiwán.
Expertos en ciberseguridad advierten sobre las vulnerabilidades de DeepSeek, ya que una falla de seguridad, descubierto en diciembre de 2024, permitía a los atacantes tomar el control de cuentas de usuario y la proliferación de modelos clonados “podría facilitar la suplantación de identidad y el fraude”.
Por todo esto, DeepSeek plantea serios desafíos en términos de privacidad, seguridad y censura y aunque ofrece un enorme potencial para diversas aplicaciones, es crucial abordar estos peligros potenciales y garantizar que la IA se desarrolle y utilice de manera responsable.
Su historia y los peligros: la startup china DeepSeek ganó relevancia internacional gracias a sus modelos de Lenguaje de Gran Tamaño (LLM) de código abierto, que compiten con los desarrollos de gigantes como OpenAI y Google, aunque su rápido ascenso está acompañado de inquietudes en torno a la privacidad, la censura y la seguridad global.
Fundada en 2023 por Liang Wenfeng, DeepSeek inició con su modelo DeepSeek-R1, cuyo rendimiento en matemáticas, codificación y razonamiento natural rivaliza con los mejores sistemas actuales y su chatbot, además, se convirtió en la aplicación gratuita más descargada en China y Estados Unidos, superando a ChatGPT.
Más allá de estos logros, la empresa enfrenta sospechas sobre el bajo costo de entrenamiento de su modelo V3, que podría haber eludido restricciones de exportación de Estados Unidos y este avance, considerado por algunos un “cisne negro”, amenaza la competitividad tecnológica estadounidense.
Los términos de servicio de esta IA permiten a la compañía usar las entradas y salidas de los usuarios para mejorar sus sistemas, generan preocupaciones por la privacidad y además, los usuarios son responsables de cualquier contenido sensible que ingresen, lo que podría exponerlos a riesgos legales.
La censura también preocupa, ya que el sistema evita responder preguntas sobre temas sensibles para China, como los uigures en Xinjiang o la soberanía de Taiwán, lo que refleja la narrativa oficial del gobierno chino y comprometiendo la objetividad del modelo.
La regulación y desafíos internacionales: el gobierno chino regula el desarrollo de la IA bajo estrictas políticas de seguridad nacional, lo que plantea dudas sobre la independencia de DeepSeek, mientras que Estados Unidos, debate restringir las tecnologías de código abierto para evitar que se conviertan en herramientas de desinformación, por lo que DeepSeek es un ejemplo tanto los avances, como los riesgos inherentes a la inteligencia artificial, lo que hace a la urgencia de un marco ético y regulatorio internacional que promueva el uso responsable de esta tecnología.
Nomyc-28-1-25
