Expertos piden cautela sobre el uso de DeepSeek

En un artículo publicado por The Guardian informan que un "profesor de Oxford desaconseja poner datos privados en la plataforma por si pudieran ser compartidos con el estado chino"

Visto en The Guardian

Los expertos han pedido cautela a la hora de adoptar rápidamente la plataforma de inteligencia artificial china DeepSeek , citando preocupaciones sobre la difusión de información errónea y sobre cómo el Estado chino podría explotar los datos de los usuarios.

La nueva IA de bajo costo eliminó 1 billón de dólares del principal índice bursátil tecnológico estadounidense esta semana y rápidamente se convirtió en la aplicación gratuita más descargada en el Reino Unido y los Estados Unidos. Donald Trump la calificó como una “llamada de atención” para las empresas tecnológicas.

Su aparición ha conmocionado al mundo tecnológico al demostrar aparentemente que puede lograr un rendimiento similar al de plataformas ampliamente utilizadas como ChatGPT a una fracción del costo.

Michael Wooldridge, profesor de fundamentos de IA en la Universidad de Oxford, dijo que no era descabellado suponer que los datos introducidos en el chatbot pudieran compartirse con el Estado chino.

Dijo: “Creo que está bien descargarlo y preguntarle sobre el desempeño del club de fútbol Liverpool o charlar sobre la historia del imperio romano, pero ¿recomendaría incluir algo sensible, personal o privado en ellos? Absolutamente no… Porque no sabes a dónde van los datos”.

Dame Wendy Hall, miembro del órgano asesor de alto nivel de las Naciones Unidas sobre IA, dijo al Guardian: “No se puede escapar del hecho de que si eres una empresa tecnológica china que trata con información estás sujeto a las reglas del gobierno chino sobre lo que puedes y no puedes decir”.

“Deberíamos estar alarmados”, dijo Ross Burley, cofundador del Centro para la Resiliencia de la Información, que está financiado en parte por los gobiernos de Estados Unidos y el Reino Unido. “Hemos visto una y otra vez cómo Pekín utiliza su dominio tecnológico como arma para la vigilancia, el control y la coerción, tanto a nivel nacional como en el extranjero”.

Dijo que, si no se controla, podría “alimentar campañas de desinformación, erosionar la confianza pública y afianzar narrativas autoritarias dentro de nuestras democracias”.

El portavoz del primer ministro, cuando se le preguntó si Downing Street descartaría el uso de inteligencia artificial china en Whitehall, dijo que no se "adelantará a modelos específicos". Dijo que los avances demuestran que el Reino Unido debe "ir más lejos y más rápido para eliminar las barreras a la innovación" en inteligencia artificial.

DeepSeek es una plataforma de código abierto, lo que significa que los desarrolladores de software pueden adaptarla a sus propios fines. Ha despertado esperanzas de una nueva ola de innovación en inteligencia artificial, que parecía estar dominada por empresas tecnológicas estadounidenses que dependían de enormes inversiones en microchips, centros de datos y nuevas fuentes de energía.

Wooldridge afirmó: “Es una señal bastante contundente, en caso de que alguien no haya captado el mensaje, de que China no se queda atrás en este ámbito”.

Algunas personas que han probado DeepSeek han descubierto que no responde a preguntas sobre temas delicados como la masacre de la plaza de Tiananmen. Cuando se le pregunta sobre el estatus de Taiwán, repite la postura del Partido Comunista Chino de que la isla es una parte “inalienable” de China.

“El mayor problema de la IA generativa es la desinformación”, afirmó Hall. “Depende de los datos de un modelo, del sesgo de esos datos y de cómo se utilizan. Ese problema se puede ver en el chatbot DeepSeek”.

Un usuario, Azeem Azhar, un experto en inteligencia artificial, preguntó sobre los acontecimientos en la Plaza de Tiananmen y le dijeron que DeepSeek no podía proporcionar información detallada y que “este tema es muy sensible y a menudo censurado en muchos países, incluida China”.

Sin embargo, AI explicó después que los acontecimientos fueron “ampliamente reconocidos como la represión de las protestas a favor de la democracia” y dijo: “El gobierno chino respondió con una violenta represión, que resultó en la muerte de cientos (o posiblemente miles) de personas, incluidos manifestantes y soldados”.

Las personas usan modelos de IA como DeepSeek y ChatGPT para ayudarlos a procesar documentos personales o documentos para el trabajo, como actas de reuniones, pero el propietario de la empresa puede tomar cualquier cosa cargada y usarla para entrenar a la IA o para otros fines.

DeepSeek tiene su sede en Hangzhou y deja claro en su política de privacidad que la información personal que recopila de los usuarios se almacena “en servidores seguros ubicados en la República Popular China”.

La ley de inteligencia nacional de China establece que todas las empresas, organizaciones y ciudadanos “deberán apoyar, ayudar y cooperar con los esfuerzos de inteligencia nacional”.

Nota original:

• Experts urge caution over use of Chinese AI DeepSeek. Por Robert Booth y Dan Milmo. Publicada por The Guardian. 28/01/2025

Nota relacionada:

• DeepSeek, ¿el nuevo TikTok?: expertos advierten sobre los riesgos de la IA china. Infobae. 28/01/2025

Post relacionado:

• Una "sorpresa" llamada DeepSeek. 27/01/2025.

___________________

NOTA: Las cookies de este sitio se usan para personalizar el contenido y los anuncios, para ofrecer funciones de medios sociales y para analizar el tráfico. Además, compartimos información sobre el uso que haga del sitio web con nuestros partners de medios sociales, de publicidad y de análisis web. Ver detalles.

IMPORTANTE: Todas las publicaciones son sin fines comerciales ni económicos. Todos los textos de mi autoría tienen ©todos los derechos reservados. Los contenidos en los link (vínculos) de las notas replicadas (reproducidas) y/o citadas son de exclusiva responsabilidad de sus autores. Éste blog ni su autor tienen responsabilidad alguna por contenidos ajenos.