›› Technologies - Energie
Données confidentielles, algorithmes et Intelligence Artificielle.
Ping An Technology (service financiers, santé, automobile, immobilier, « villes intelligentes ») filiale du géant des assurances Ping An fut un des plus gros bénéficiaires de l’avalanche d’informations. Elle réfute cependant l’accusation de viol de la vie privée en précisant que les données sont brutes et seulement statistiques.
Une partie des informations vient cependant du marché de l’assurance où les grands acteurs cherchent à minimiser les risques en plongeant dans les références de santé des clients. Une autre vient de la base de données des contrôles aux frontières.
Au total 20 millions de dossiers dont les données sont utilisées pour affiner les algorithmes d’une plateforme d’intelligence artificielle à large spectre développée par Liang Xu.
Âgé de moins de 40 ans, ce jeune Dr en informatique, diplômé d’Oxford, n°2 du Centre de R&D de Ping An technology a mis au point avec son équipe une aide à la gestion des centres urbains baptisée PADIA dont les capacités de calcul et d’analyse peuvent prédire avec une marge d’erreur de 10% les pics de criminalité et les épidémies de grippe ou d’affections pulmonaires. Dans plusieurs provinces, les algorithmes ont également détecté des fraudes à l’assurance maladie à hauteur de 150 millions de $.
Quoi qu’il en soit, le volume des données utilisées confère à Ping An un avantage rare. Au Royaume Uni par exemple les données disponibles pour le projet « Deep Mind » (détection des maladies oculaires) atteignent à peine 1,6 millions. Insuffisant pour la mise au point de modèles efficaces, disent les experts. Autre avantage, en Chine les soucis liés à la protection de la vie privée sont rares.
Le handicap de la connivence avec l’État chinois.
Pour autant, alors qu’en Chine même le marché privé de l’intelligence artificielle reste limité, à l’étranger, les sociétés chinoises développées grâce aux interactions étroites avec le pouvoir, se heurtent à la suspicion d’espionnage.
En cause, entre autres, leur réputation dans la maîtrise des technologies de reconnaissance faciale, outil de surveillance de la population chinoise. Le fait que depuis le 1er décembre, le Parti oblige chaque nouvel acheteur d’un portable à fournir son image faciale à son fournisseur d’accès n’a pas contribué à diminuer les soupçons.
Utilisées de plus en plus largement comme moyen de paiement à la place des mots de passe ou pour la surveillance des espaces publics, l’engouement chinois pour la reconnaissance faciale a favorisé l’émergence récente de sociétés telles que Megvii Technology, SenseTime, CloudWalkTechnology et Yitu Technology aux valorisations boursières ébouriffantes [1].
Mais l’affabulation qui les présente comme des « sociétés privées » alors que plus de 90 % de leur marché dépend de l’État, tient d’autant moins qu’elles-mêmes utilisent leur proximité avec le pouvoir comme un argument de vente.
Les réticences des marchés occidentaux augmentent à mesure que se développement les controverses très médiatisées autour des événements à Hong Kong et de l’incarcération en « camps de rééducation » de plus d’1 million de Ouïghours.
Aux États-Unis, la défiance a passé le cap légal. Le pays qui recèle 40% du total des acteurs de l’Intelligence Artificielle mondiale contre 20% à la Chine et qui, pour l’instant, possède aussi la maîtrise des microprocesseurs, clés incontournables des nouvelles technologies, a placé 28 sociétés et agences de la sécurité d’État chinoises sur une « liste noire ».
Parmi elles : Sense Time, Megvii Technology, Yitu Technology, Hivision (vidéo surveillance) et iFlytek (reconnaissance vocale), qui toutes ont l’ambition de se développer hors de Chine dont le marché est saturé.
Arrivant en terrain vierge de toute concurrence au même niveau de prix, dans les pays où le contrôle des populations et la sécurité sont les premiers soucis des pouvoirs, les groupes chinois de l’IA arrachent des parts de marché. En revanche en Occident, elles font face aux alarmes que ces nouvelles technologies suscitent à propos des libertés individuelles et de la protection de la vie privée.
Les États-Unis sont à la pointe des efforts pour protéger la liberté individuelle contre les soucis de sécurité. En mai dernier, San Francisco fut la première ville à interdire l’usage de la reconnaissance faciale y compris par la police. En Chine, la protection des libertés individuelles n’a pas la même la même importance. C’est au contraire la sécurité collective qui prime.
C’est ce qu’en septembre dernier, Ren Zhengfei, le PDG de Huawei précisait dans une interview accordée à CNBC : « Je pense que la protection des informations personnelles ne devrait pas se faire au détriment de la sécurité publique » (…) « Regardez simplement combien de fusillades de masse ont lieu aux États-Unis. Vous pouvez protéger la vie privée de quelqu’un, mais qu’en est-il de la sécurité des autres ? ».
*
Alors que le balancier des peurs et des espoirs hésite entre le contrôle et la liberté [2], des voix de la société chinoise s’élèvent pour exprimer leur crainte des intrusions dans la vie privée. En septembre dernier, un débat sur les réseaux sociaux stigmatisait l’application « Zao ».
Innovation ludique utilisant la reconnaissance d’image dont raffolent les usagers plus jeunes, elle permet de substituer des visages sur des photos. Après un vent de protestations publiques, le gouvernement obligea les auteurs à vérifier l’accord des personnes concernées avant d’utiliser leurs photos.
Pour Yi Zheng Directeur du Bureau Éthique et Sécurité de l’IA à l’Académie des Sciences Sociales, de tels cas montrent les progrès de la conscience privée des usagers. Pour autant, rappelle Yu Yifan, alors que dans la société montent les craintes concernant le viol de la vie privée, « les citoyens n’ont que peu de moyens de défier l’utilisation par les autorités de leurs données personnelles ».
Selon les articles 7 et 14 de la loi sur le renseignement national, les citoyens sont tenus « d’apporter leur concours et de coopérer aux organismes nationaux du renseignement », ce qui dit Yu, « laisse une bonne marge de manœuvre pour utiliser les informations privées sans l’accord des intéressés ».
Enfin, dans sa conclusion, citant encore Vasant Dhar l’article attire l’attention de l’industrie de l’Intelligence Artificielle américaine sur les inconvénients du déficit de coordination, de l’absence d’objectifs communs et de l’insuffisance d’attention accordée à l’impact humain et social de cette rupture aux vastes applications dont beaucoup restent encore à explorer.
« Il serait légitime de s’inquiéter si, aux États-Unis, l’IA restait dominée par les seules entreprises privées qui extraient et utilisent les données personnelles à des fins lucratives exploitant l’intelligence artificielle pour des buts privés, sans être encadrées par le gouvernement sur les questions d’éthique et de bien social ».
Note(s) :
[1] SenseTime : avril 2018, 3 Mds de $ ; Megvii Technology : août 2019, 4 Mds de $, CloudWalkTechnology : 3,5 Mds de $ ; Yitu Technology : 2,4 Mds de $
[2] Il est cependant à craindre que, chez nous, comme en Chine, la quête de sécurité finira par subjuguer l’émancipation individuelle. Les « données de masse » dont il est beaucoup question dans cet article renvoient à la fois au problème posé par leur utilisation sans contrôle et au type de société qu’elles préparent.
Comment en effet ne pas s’effrayer de l’obsession de profit des compagnies d’assurance qui, pour limiter leurs risques, cherchent à connaître par l’intrusion dans la vie privée de leurs clients, les aléas de leur santé. QC évoquait cette angoisse dans un article publié au printemps dernier : Réflexions sur l’assurance maladie, le « big data » chinois et les évolutions du monde.
Revenant sur « les données de masse, » François Danjou explorait la nouvelle marotte du « risque zéro ». (…), les illusions de l’Intelligence artificielle et la hantise de l’incertitude . « Les démiurges du “Big Data “ croient que la masse des informations non répertoriées et non hiérarchisées peuvent percer le mystère de l’impromptu ou remplacer le génie de l’innovation. Ils se trompent. (…) »
« Lisons avec attention la conclusion d’un article de Kenneth Cukier paru en juillet 2013 dans « Le Monde Diplomatique » « Mise en données du Monde, le déluge numérique ». (…)
« De la fonction attribuée aux données de masse dépend la survie de la notion de progrès. Elles facilitent l’expérimentation et l’exploration, mais elles se taisent quand apparaît l’étincelle de l’invention. Si Henry Ford avait interrogé des algorithmes informatiques pour évaluer les attentes des consommateurs, ils lui auraient probablement répondu : “Des chevaux plus rapides“ ».