Les nouvelles technologies, poison ou antidote à la crise de confiance

Des vaccins aux politiques, en passant par les médias et les grandes entreprises, l’heure est à la défiance généralisée. Le monde des nouvelles technologies n’échappe pas à cette crise de confiance sans précédent : recommandations commerciales, recrutement, e-santé ou voitures autonomes… De plus en plus de processus dans nos vies sont dématérialisés, quelle confiance accorder à ces technologies qui les gouvernent ? Un débat du Club Business Analytics info.

(Illustration,  de gauche à droite : Mouloud Dey, Julien Maldonato, Philippe Tassi et Thomas Boullonnois)

Comme des centaines de millions d’individus dans le monde, les Français doutent. Ils font de moins en moins confiance aux discours officiels qui autrefois faisaient autorité. Si Internet et son cortège de désinformation est souvent désigné comme co-responsable de cette méfiance, il est lui-même l’objet d’une crise de confiance sans précédent.

Les résultats contestés de l’élection présidentielle américaine. La blockchain qui entend générer de la confiance quasiment sans intervention humaine dans de nombreux secteurs de la banque à la logistique. La place grandissante des algorithmes qui prétendent gouverner notre quotidien : recommandations commerciales, recrutement, e-santé ou voitures autonomes… Autant d’illustrations suscitant de nouvelles défiances. En cause : l’instantanéité, la désinformation et l’usage des données personnelles qui inquiètent et posent questions aux citoyens comme aux législateurs.

A l’heure où de plus en plus de processus dans nos vies comme au travail sont dématérialisés, quelle confiance accorder à ces technologies qui gouvernent nos vies ? Pour répondre à cette question, le Business Analytics info a organisé une table ronde avec Philippe Tassi, Directeur général adjoint de Mediametrie, Julien MALDONATO, Directeur conseil Fintech chez Deloitte et Mouloud Dey, Directeur de l’innovation et du développement de SAS France, animée par Thomas Boullonnois de Rumeur Publique.

 

La naissance d’une économie de la confiance

 

En préambule, Mouloud Dey a expliqué que la défiance ne concerne plus seulement le monde politique mais touche désormais le monde des entreprises. Dans une vision macro-économique, la confiance est pourtant une des trois forces majeures et complémentaires auxquelles les entreprises prêtent beaucoup d’attention aujourd’hui (aux côtés de l’excellence opérationnelle et de l’innovation) pour garantir leur croissance.

On l’a vu récemment avec plusieurs affaires – viande hachée, médicaments et vaccins, diesel, surbooking aérien, sans parler des « faits alternatifs » ou propos extrémistes véhiculés par des publicités – redonner confiance aux consommateurs représente un vrai sujet pour les marques, alors qu’elles sont dorénavant en « prise directe » avec les consommateurs à travers les réseaux sociaux. Ce qui implique de répondre à des exigences de conformité, de sécurité, de transparence et d’éthique pour garantir à long terme leur réputation.

Parallèlement, c’est une véritable économie de la confiance qui voit le jour : on partage son appartement ou son véhicule avec des individus que l’on ne connaît pas, sur la base de recommandations d’individus que l’on ne connaît pas non plus. Le phénomène rattrape aujourd’hui les entreprises comme les grandes marques du numérique, avec notamment la promulgation de nouvelles réglementations comme le règlement général européen sur la protection des données ou  GDPR.

 

Les nouvelles technologies sont-elles coupables d’avoir suscité, à juste titre, cette défiance ?

 

S’il y a débat autour de l’utilité des technologies, qu’il s’agisse de retour sur investissement, de contribution au PIB, ou de responsabilité dans la destruction d’emplois, Philippe Tassi considère qu’il y a beaucoup de confusion et qu’on y participe tous. L’innovation technologique ne date pas d’aujourd’hui : les débuts de la mécanisation des métiers à tisser (1811) en Angleterre sont communément considérés comme le point de départ de la révolution industrielle. Au même moment, les « luddistes » s’organisent pour détruire ces machines qui menacent leurs emplois. Plus tard, en 1940, le New York Times titrait : « Les machines remplaceront-elles les hommes à long terme ? » et « Est-ce que les robots commencent à penser ? ». Enfin, en 2013, deux chercheurs d’Oxford annonçaient que 47 % des emplois aux USA étaient « automatisables ».

S’il est facile de mettre en relief des chiffres négatifs, il est tout aussi facile de souligner le caractère positif des technologies, sauf que personne ne le fait ! L’évolution des nomenclatures des métiers des pays développés prouve qu’il y a beaucoup plus de création que de destruction de professions et d’emplois. L’OCDE a démontré que l’analyse d’Oxford n’était centrée que sur les suppressions potentielles d’emplois, et que le taux d’emplois automatisables n’atteignait en réalité que 9 %. Avec les métiers qui seront créés dans les cinq ans qui viennent, le solde devrait être positif.

Citant Marie Curie : « Dans la vie, rien n’est à craindre, tout est à comprendre », Philippe Tassi note que cela implique qu’on dispose de la culture de base scientifique pour y parvenir. La question fondamentale réside donc certainement dans la formation des citoyens. La connaissance étant parallèlement le premier rempart contre la manipulation.

Enfin, il convient de prendre en compte un changement d’échelle. Les risques ne sont plus les mêmes : on peut aujourd’hui prendre le contrôle d’un avion en vol ou du système informatique d’une banque. De plus, toute l’information qui circule sur les réseaux digitaux est véhiculée en temps réel, ce qui n’existait pas il y a 25 ans. Autrefois, on ne voyait pas les images d’une catastrophe naturelle, mais les images des secours. Ce qui change tout au niveau de la perception de l’événement.

 

D’après Julien Madonato, toute innovation technologique passe par trois phases successives : elle est tout d’abord jugée ridicule (l’année où Amazon est créé, un rapport commandité par le gouvernement Balladur a jugé que les « autoroutes de l’information n’apporteraient rien au commerce mondial »), puis dangereuse (« les nouvelles technologies vont détruire l’emploi »), avant de devenir une évidence. Ainsi alors qu’IBM a longtemps considéré que l’ordinateur n’entrerait jamais dans les foyers, Steve Jobs aura contribué à le rendre évident, notamment grâce à sa facilité d’utilisation. De la même manière, dans les années 90 il était inconcevable que la finance « sorte » des banques. Plus récemment les Fintech étaient considérées comme dangereuses, avant de devenir une évidence grâce aux services qu’elles rendent.

L’impact du numérique se traduit d’une part par la facilité d’accès au capital : en 1993, 5 M$ étaient nécessaire pour amorcer une startup ; 10 ans plus tard, il ne fallait plus que 500 000 $ et 5 ans plus tard encore, 50 000 $. D’autre part, l’économie dématérialisée s’accompagne de coûts marginaux qui tendent vers zéro, alors qu’en termes de coûts de production, la productivité tend vers l’infini. Enfin, la connaissance est infinie, à la différence des matières premières. Lorsqu’on la donne, on ne la perd pas, au contraire : on la multiplie. De nouveaux types d’échanges voient le jour, avec une valeur commerciale qui pourrait parfois disparaître.

 

Mouloud Dey est revenu sur les inquiétudes suscitées par le numérique et l’intelligence artificielle, notamment en termes d’emploi. On sait qu’un enfant né aujourd’hui occupera un poste dans une vingtaine d’années qui n’existe pas encore. Si ces craintes ne sont effectivement pas nouvelles, il convient de relativiser nos angoisses. Le robot présenté dans les films de science-fiction n’est pas encore pour demain. On dispose aujourd’hui d’équipements tirant parti d’une intelligence artificielle « faible », qui réalisent une tâche efficacement : reconnaissance vocale ou d’images. Il y a 40 ans, on devait programmer ce que devait faire un algorithme, alors qu’aujourd’hui la puissance de calcul permet de faire beaucoup plus de choses et la disponibilité de données massives permettent aux machines « d’apprendre » comme le fait un enfant à l’école. Ce qui offre des perspectives nouvelles, avec des machines capables de réaliser des tâches plus efficacement que l’homme. Mais les machines vont offrir à l’homme une assistance (aide à la décision), plutôt que de les remplacer.

 

Philippe Tassi a ajouté que les robots sont de plus en plus nombreux dans certains secteurs, comme par exemple l’assistance aux personnes âgées dans les maisons de retraite qui éprouvent d’énormes difficultés pour recruter du personnel. Tout n’est pas négatif, mais on suit ici une évolution habituelle dont parlait J. Maldonato plus haut : au départ, on refuse l’électricité, le train, l’avion, etc. avant que l’innovation ne s’impose.

 

La défiance vis-à-vis des politiques et des médias

 

Les dernières élections aux Etats-Unis ou en Europe l’ont démontré, les politiques et les médias suscitent une défiance accrue. Cette crise de confiance n’épargne par les instituts de sondage. Selon Philippe Tassi, il convient tout d’abord de définir ce qu’est un institut de sondage. Dans tous les pays sauf la France, on parle plutôt de la « théorie de l’échantillonnage », née entre 1925 et 1934, qui permet de réaliser des « extrapolations » sur la base d’un échantillon. Un peu comme dans une prise de sang : on ne vous prend pas tout votre sang pour l’analyser !

Les sondages politiques ne représentent que 3% du chiffre d’affaires des instituts… alors que de très nombreuses décisions (démographie, économie, santé, etc.) sont prises au quotidien sur la base d’échantillons construits par l’INSEE ou l’INSERM.

Concernant l’élection de Donald Trump aux Etats-Unis, il est intéressant de noter que la plupart des politiques européens considéraient avant l’élection que sa victoire était « impossible » ; personne ne la qualifiait juste d’« improbable ». La différence est pourtant de taille, un événement improbable reste possible même si la probabilité qu’il survienne est faible – comme un incident nucléaire. On n’a donc pas anticipé les conséquences de l’événement, pire : les responsables politiques ont refusé d’envisager cette possibilité, au contraire de certains spécialistes des sondages. Par exemple, le CEVIPOF, à la lecture des consultations suite au dernier débat télévisé, affirmait que D. Trump serait élu (notamment du fait du système électoral qui véhicule une notion de majorité différente aux USA).

Parallèlement, en France, des entreprises ont commencé à utiliser des modèles mathématiques à partir de big data collectés sur les réseaux sociaux. Et elles concluaient à la victoire de François Fillon en France, Emmanuel Macron n’arrivant qu’en 4e position du premier tour. Si les données numériques peuvent également être « manipulées », il ne s’agit pas ici d’une erreur d’échantillonnage. D’autres biais sont intervenus, comme par exemple le gros travail réalisé sur les réseaux sociaux par les équipes de F. Fillon, qui a « modifié » l’image numérique de leur candidat. On se dirige aujourd’hui vers l’utilisation de modèles hybrides mêlant échantillonnage et Internet, qui apportent beaucoup plus de précision, comme l’a expliqué Arnold Haine, CTO du Groupe BVA, lors du dernier SAS Forum France 2017.

 

Mouloud Dey a expliqué que les médias sociaux ne sont pas le reflet exact de la société : attention à ne pas confondre médium et message. Il n’a jamais été aussi facile de diffuser une information fausse sur Internet et de faire en sorte qu’elle s’amplifie. Pour autant, il existe également des informations fort utiles. Le constructeur informatique Lenovo, par exemple, analyse l’avis des internautes sur la qualité de ses produits pour comprendre pourquoi certains produits ne sont pas adaptés à certains utilisateurs et ainsi alimenter sa R&D pour développer de nouvelles offres. Autre exemple, le programme « Global Pulse » des Nations unies analyse les médias sociaux afin de compléter les indicateurs économiques et sociaux traditionnels pour anticiper des crises environnementales ou sociales et suggérer des politiques adaptées.

 

Julien Maldonato ajoute que les technologies peuvent parfois être utilisées à mauvais escient, mais apportent simultanément beaucoup de progrès. Dans le domaine des finances, les technologies contribuent à démocratiser l’accès aux services financiers et à créer de nouvelles offres – agrégateurs de comptes par exemple – qui créent de la valeur. La courbe d’apprentissage et d’adoption se heurte forcément à certains obstacles. Si les apports des technologies sont la mesurabilité, le combinatoire et l’expérimental, nous n’en sommes qu’aux débuts de l’aventure. Le « sens commun » d’Aristote est encore loin, mais l’analytique améliore progressivement nos cinq sens. Pour prolonger cette image, les technologies ne doivent pas être considérées comme une menace par les médecins, mais plutôt une opportunité  d’améliorer leurs diagnostics et la prévention. La confiance se bâtit progressivement via les usages.

 

Ethique et déontologie : gros mots ou postures dans l’entreprise ? En quoi les technologies peuvent-elles contribuer à recréer de la confiance ?

 

Pour Philippe Tassi, la logique du temps réel à tout prix génère un risque majeur de diminution de la réflexion et de la recherche d’informations externes. Avec des données accessibles et « traitables » immédiatement, le marketing évolue considérablement. Or la confiance repose principalement sur l’existence d’un cadre législatif (national, européen ou mondial) et sur la déontologie. La première Loi sur le monde de la statistique a été promulguée en 1951, avec la création de l’Insee. En matière de déontologie, le premier code date de 1948 avec la fondation d’ESOMAR. D’autres textes – CNIL, Loi sur les télécoms – ont progressivement complété ce panorama. Tout l’enjeu consiste à vérifier que le professionnel respecte bien le code de déontologie de sa profession. Dans le secteur financier, il y a toujours eu des escrocs, des produits « pourris », ou des hold-up ; on n’a pas pour autant supprimé la banque…

 

Julien Maldonato décrit les promesses portées par la blockchain, nouvelle technologie qui apporte une couche de sécurité supplémentaire à Internet. Blockchain est à la valeur ce que l’Internet est à l’information. Si l’Internet repose sur des bases de données centralisées, exploitées par des tiers de confiance, Blockchain va modifier ce schéma, le travail des tiers de confiance étant amené à évoluer vers un consensus collectif. L’idée du bitcoin – 1ère application de cette technologie – apparu juste après la crise de 2008, était de rendre plus fiable le système financier (qui a failli, malgré les garde-fous, auditeurs, superviseurs et banques centrales) via un système plus décentralisé, distribué et en réseau où chacun pourrait être acteur et validateur. Cette évolution induit des problématiques culturelles importantes dans un secteur recourant depuis longtemps à une autorité centrale. Le recours à un consensus collégial va modifier le métier des experts, mais pas forcément le supprimer. Par exemple, les notaires, dont on mentionne souvent « l’uberisation », ont un rôle très important de conseil qu’ils ne doivent pas perdre. La technologie ne pourra pas s’y substituer.

 

Mouloud Dey pense que cette problématique ne concerne pas uniquement les technologies : les efforts d’éducation des citoyens et des consommateurs, comme de responsabilisation des entreprises et des institutions sont essentiels. Beaucoup d’usages très positifs existent : lutte contre la fraude et le blanchiment, évaluation des risques opérationnels et financiers, aide au diagnostic, traçabilité des médicaments, etc.

Par exemple, un centre de recherche aux Etats-Unis collecte l’ensemble des données des vétérinaires, pour prévenir les risques d’attaques bioterroristes via l’analyse des comportements et des pathologies (les animaux étant les premières victimes de ce type d’attaques). Autre exemple, le Ministère de la santé de Nouvelle Zélande consolide l’ensemble de données sur les malades atteints de diabète au sein d’une base de données nationale unique. Il a ainsi pris conscience de l’écart de 8% entre ses estimations et la réalité sur le nombre de malades. Ces données permettent en outre d’orienter la politique nationale de santé, de définir une cartographie et un accompagnement des patients, et donc d’aider la médecine à faire son travail le mieux possible, grâce à l’analyse de données personnelles.

C’est là qu’interviennent des technologies comme blockchain qui renforcent la confiance, et les réglementations comme GDPR qui clarifient les usages.

 

Dépasser nos peurs pour envisager l’avenir

 

Philippe Tassi apporte en conclusion un extrait d’un discours de 1935 de Paul Valéry, « Le bilan de l’Intelligence » : « Un désordre dont on ne peut imaginer le terme s’observe à présent dans tous les domaines. Nous le trouvons autour de nous comme en nous-mêmes, dans nos journées, dans notre allure, dans les journaux, dans les plaisirs et jusque dans notre savoir. L’interruption, l’incohérence, la surprise, sont des conditions ordinaires de notre vie. Elles sont même devenues de véritables besoins, chez beaucoup d’individus dont l’esprit ne se nourrit plus, en quelque sorte, que de variations brusques et d’excitations toujours renouvelées. Et, grande innovation, nous ne supportons plus d’attendre, nous ne supportons plus la durée. » Les notions de durée, de rapidité, d’évolution sont loin d’être neuves !

De son côté, Julien Maldonato pense que s’il est logique d’avoir peur de l’inconnu (un réflexe génétique), il convient de regarder le passé pour envisager et comprendre l’avenir. Il faut surtout retenir que les algorithmes auto-apprenants et les nouvelles technologies vont nous simplifier la vie. Les questions d’éthique sont entre nos mains, car les technologies, c’est surtout l’usage que l’on en fait.

Mouloud Dey explique que la notion de confiance est ancienne. Celle-ci reposait il fut un temps dans la qualité des marbres des agences bancaires ou la standardisation des hôtels, aujourd’hui il est nécessaire de trouver d’autres façons d’inspirer confiance, blockchain ou autres technologies sont très prometteuses dans ce sens.

 

Voir la vidéo

 

En complément :

Un article (en anglais) sur un appel de trois scientifiques britanniques à réglementer l’intelligence artificielle,

Et un autre (en anglais) sur la transformation du travail et des organisations impulsée par les technologies.