En Chine, une intelligence artificielle surveille les conversations

Sciences et Avenir, 29 Janvier 2017

82927923CENSURE. Les progrès de l’intelligence artificielle vont-ils permettre à certains Etats autoritaires de garder la mainmise sur Internet ? Une enquête du laboratoire citoyen de l’université de Toronto dévoile comment WeChat, l’application de messagerie la plus populaire de Chine, utilise un double système qui lui permet de censurer différemment les utilisateurs qu’ils soient Chinois ou étrangers, qu’ils utilisent un chat privé ou un groupe de discussion.

Avec 806 millions d’utilisateurs, WeChat est la quatrième messagerie instantanée au monde. En Chine, où Facebook n’est pas encore autorisé, l’application sert à la fois de réseau social, de moyen de paiement et de service de transport entre particuliers. Sur leur smartphone, les Chinois passent un tiers de leur temps sur cette application éditée par Tencent, une des plus grandes compagnies high-tech du pays.

Pour lever le voile sur la censure, les chercheurs canadiens ont testé plus de 26 000 mots-clés en lien avec des sujets sensibles en Chine comme la santé des cadres du parti communiste chinois, la répression des manifestations pro-démocratie de Tiananmen en 1989, ou encore la persécution des adeptes du Falun Gong (pratique de méditation indépendante du pouvoir). Résultat : seule l’expression Falun Gong est interdite dans les chats privés. En revanche, 174 mots-clés sont bloqués dans les groupes de discussion pour les utilisateurs avec un numéro de portable chinois. Il s’agit principalement de référence à Tiananmen, au PCC, aux médias indépendants… Ce filtrage de mots-clés est appliqué par des serveurs à l’utilisateur chinois authentifié sur l’application, qu’il soit connecté dans son pays ou à l’étranger.

Les chinois et les étrangers traités différemment

Les chercheurs ont prouvé que des numéros de portables chinois ne pouvaient pas utiliser ou recevoir les mots interdits même en dehors des frontières de l’Empire du Milieu. Ces restrictions peuvent donc toucher les étudiants chinois, les touristes ou les hommes d’affaires en voyage à l’étranger. En revanche, les utilisateurs avec un numéro non-chinois ne sont pas soumis à ce système de censure. “Le filtrage d’Internet est utilisé par des États du monde entier (autoritaires ou démocratiques) et peut aboutir à un réseau territorialisé. WeChat est un exemple flagrant qui montre comment les mêmes frontières peuvent s’étendre aux applications populaires“, estiment les chercheurs.

L’étude montre des restrictions bien plus importantes dans les groupes de discussion que dans les messages privés. Ces groupes peuvent rassembler entre 100 et 500 utilisateurs, on peut supposer qu’ils représentent une menace de mobilisation plus importante aux yeux de l’exécutif chinois.

Censure silencieuse et machine learning

A noter que désormais la censure est silencieuse, puisque le message est automatiquement supprimé des serveurs de l’application et devient invisible. Il ne s’agit pas d’une simple liste de mots interdits mais d’un système beaucoup plus poussé faisant penser à une intelligence artificielle. Ainsi, par exemple, l’application autorise l’évocation du 4 juin, date anniversaire du drame, mais supprime des serveurs un message contenant cette date associée à l’expression “mouvement pro-démocratie”. Pour le professeur de Hong-Kong, Jack Qiu interrogé par le site canadien The Globe and Mail, l’étude confirme que Pékin utilise des algorithmes pour censurer : “C’est la nouvelle génération de technologies de censure. Elle repose sur une intelligence artificielle avec une fonction d’apprentissage par la machine (machine learning). Donc, le système de censure apprend par sur lui-même.

Par ailleurs, les chercheurs ont pu établir une liste de 41 sites internet inaccessibles depuis WeChat sur le réseau chinois. Les deux tiers sont des sites de jeux en ligne, mais figurent aussi des médias indépendants qui mentionnent les problèmes de droits de l’homme en Chine, ou encore le consortium international de journalistes (ICIJ) qui a révélé l’affaire des Panama Papers où sont cités plusieurs cadres du Parti communiste chinois.

par Florine Galéron

https://www.sciencesetavenir.fr/high-tech/intelligence-artificielle/la-chine-censure-le-service-de-messagerie-wechat-avec-une-intelligence-artificielle_110071