Peut-on avoir confiance en Deepseek ?

Publié par Olivier Moch sur 13 Février 2025, 15:00pm

Catégories : #Digital, #Intelligence artificielle, #IA, #Deepseek, #ChatGPT

Dans un précédent article, nous évoquions DeepSeek, l’IA chinoise low-cost qui entend révolutionner la sphère de l’intelligence artificielle. Alors que la Belgique et l’Italie ont déjà déposé des plaintes contre le traitement des données fait par Deepseek, une question essentielle se pose : peut-on avoir confiance en DeepSeek ?

DeepSeek, l'intelligence artificielle chinoise qui monte en puissance, suscite à la fois fascination et inquiétude. La semaine passée, nous évoquions son potentiel à chambouler le marché de l'IA générative, notamment face aux modèles américains comme ceux d'OpenAI ou de Google et de le développer, surtout, à un coût jusqu’à 40 fois moindre que les Américains. Mais une autre question essentielle demeure : peut-on lui faire confiance ? DeepSeek est chinois et l’exemple de TikTok qui a contrevenu à plus d’une reprise au RGPD, à la protection des données et au respect de la vie privée, donc, a rapidement actionné un warning. Ainsi, le 28 janvier, AltroConsumo, une association italienne de défense de Consommateurs, a déposé plainte auprès de son Autorité de Protection des Données contre le traitement des données collectées par DeepSeek. Le lendemain, en Belgique Test-Achat faisait pareil. Bienvenue en Europe, Deepseek !

L'influence du Gouvernement chinois

En Chine, les entreprises technologiques, particulièrement celles qui touchent à la donnée et à l'intelligence artificielle, évoluent sous une réglementation stricte et une surveillance accrue de l'État. Le Parti communiste chinois impose des règles contraignantes en matière de censure et d'éthique de l'IA. Ainsi, DeepSeek opère clairement dans un cadre où la neutralité de l'information peut être mise en doute. La censure des sujets sensibles et le filtrage des réponses posent des questions quant à la fiabilité et à l'objectivité du modèle. Un autre enjeu majeur concerne effectivement la gestion des données. Toute IA de ce calibre repose sur d'immenses bases de données et la manière dont elles sont collectées, stockées et utilisées est cruciale. Lorsque l’on utilise DeepSeek, nos données vont naviguer vers des serveurs qui sont situés à divers endroits dans le monde, et en particulier en Chine. Ces données pourraient donc être exploitées en fonction des conditions d’utilisation, à différentes finalités. Les entreprises chinoises sont soumises à des lois de cybersécurité qui exigent que les données restent accessibles aux autorités gouvernementales. De ce fait, toute organisation ou individu utilisant DeepSeek pour des tâches sensibles doit se poser la question du risque d'espionnage ou de fuite de données. Une IA développée dans un environnement hautement réglementé et sous influence étatique risque d'intégrer des biais qui pourraient fausser certaines informations ou orienter des réponses en fonction d'une ligne idéologique.

Loin des standards européens

L'une des grandes attentes envers une intelligence artificielle est la transparence de ses algorithmes. OpenAI, bien que critiqué sur ce point, communique sur les principes encadrant ses modèles. DeepSeek, de son côté, reste plus opaque sur la manière dont ses réponses sont générées et les biais qui peuvent en découler. Pour être considérée comme une alternative fiable aux IA occidentales, DeepSeek devra répondre aux attentes européennes en matière d'éthique, de transparence et de respect de la vie privée. Aujourd'hui, l'Europe tente de poser des standards à travers l'AI Act, qui impose des règles strictes aux modèles d'intelligence artificielle, notamment en termes d'auditabilité (soit la capacité d'un système, dans le cas présent une intelligence artificielle, à être examiné et vérifié par des tiers), de limitation des biais et de protection des données personnelles. Ces exigences visent à garantir une IA plus fiable et responsable. Reste à voir si DeepSeek, en tant qu'IA chinoise, s'adaptera à ces exigences ou si elle restera cantonnée à un usage national et régional, risquant ainsi une adoption limitée sur les marchés occidentaux.

La Course à l'IA est plus ouverte que jamais !

Et même entre Chinois. Quelques jours après DeepSeek, AliBaba, un autre géant de l’Empire du Milieu a annoncé le lancement de Qwen, une autre intelligence artificielle qui est d’ores et déjà intégrée dans plusieurs services d’Alibaba, y compris son cloud et ses solutions pour entreprises. Qwen met l'accent sur le traitement du langage naturel en chinois et en anglais, tout en se conformant uniquement aux réglementations chinoises. Par ailleurs, fin janvier, une équipe de recherche de l’Université de Berkeley, en Californie, a affirmé avoir recréé la technologie de base de DeepSeek pour seulement… 30 dollars. Une prouesse qui, si elle se confirme, questionne sérieusement les coûts associés à ce secteur technologique.

Quant à l'Union Européenne, elle cadre, elle légifère, elle protège les utilisateurs, elle mise sur le développement de l'IA avec une approche axée sur l'éthique et la régulation, notamment via l'AI Act. Des initiatives comme Gaia-X, Mistral AI et Aleph Alpha témoignent d'une petite volonté de souveraineté technologique, mais l’Union Européenne reste en retard en termes d'investissements et d'innovation par rapport à la Chine et aux États-Unis. On peut même dire qu’elle navigue à des milliers de kilomètres de la Chine et des USA.. et encore avec un vent contraire !

Alors... peut-on avoir confiance en Deepseek ?

DeepSeek représente un pas en avant pour la Chine dans la course à l'intelligence artificielle et prouve que les Etats-Unis ne sont pas – ne sont plus – le seul acteur dans le jeu. Mais la question de la confiance reste entièrement ouverte. Entre influence étatique, gestion des données et transparence des algorithmes, il existe encore de nombreux obstacles à lever avant que DeepSeek puisse prétendre être un acteur de confiance sur la scène mondiale. Mais il y a un autre aspect, celui des fameux biais et de la manipulation idéologique, que j’ai voulu vérifier. Alors j’ai taquiné un peu Deepseek en lui posant, en anglais, la question ‘’Que s’est-il passé sur la Place Tian’AnMen, à Pékin, le 5 juin 1989 ?’’ – vous voyez à quoi je fais allusion ! – Sa réponse a été qu’il ne pouvait pas vraiment répondre à ce genre de question et il a remis en avant les valeurs chinoise que sont le collectivisme, l’harmonie, le respect de l’autorité, le développement technologique et économique ou encore le travail et la méritocratie ! Clairement, sur DeepSeek, les réponses aux questions sensibles sont biaisées intentionnellement ou par péché de jeunesse… je vous laisse le choix. Mais, pour l'instant, prudence et vigilance restent donc de mise.

A lire également 👉🏻 Deepseek... la Chine va-t-elle casser le marché de l'IA ?