Le boom de l’IA soulève de nombreuses questions éthiques

Chômage, inégalités, insécurité… l’intelligence artificielle est accusée de causer du tort à l’humanité. À l’opposé, ses promoteurs lui prêtent de nombreuses vertus. Quelles que soient ces dernières, le développement de l’IA suscite des questions légitimes et sérieuses, sans doute plus politiques et sociales que techniques.

Et si un algorithme « intelligent » parvenait à la conclusion, après un long et complexe calcul, que la meilleure solution pour éradiquer le cancer consisterait à éliminer toute forme de vie humaine de la planète ? L’avantage des scénarios catastrophes produits par Hollywood mettant en scène des machines devenues autonomes et malintentionnées est qu’ils ont permis de sensibiliser le grand public aux questions éthiques que soulève l’intelligence artificielle (IA) — parfois jusqu’à la caricature. Si l’on s’en tient aux faits, personne ne peut nier aujourd’hui que les systèmes intelligents transforment nos vies. Plutôt en bien, à en croire Julia Bossmann, présidente du Foresight Institute, qui cite notamment les applications d’optimisation logistique, de détection de fraude ou de traduction automatique.

 

Réfléchir aux conséquences potentielles d’un développement incontrôlé de l’IA

 

Toutefois, les sociétés auraient tort de se limiter aux dystopies hollywoodiennes en se désintéressant du débat de fond sur les conséquences potentielles d’un développement incontrôlé de l’IA. L’automatisation du travail qu’elle induit — un mouvement entamé avant son invention, qu’elle contribue à accélérer — nous impose par exemple de réfléchir à la façon dont nous allons occuper notre temps et trouver du sens dans ces nouvelles activités. En outre, dans une économie régie par des systèmes intelligents, les concepteurs et propriétaires de ces machines se tailleront la part du lion, posant la question de la redistribution des richesses dans un monde où le travail ne sera plus une valeur centrale.

Un autre pan important de la réflexion autour des systèmes artificiels concerne le rapport entre humain et machine. Des études ont montré que ces interactions, de plus en plus fréquentes, modifient à terme jusqu’à notre manière de penser et d’agir. Ces découvertes ont été employées en ligne pour accroître la dépendance à une marque ou à un jeu vidéo, mais on peut imaginer d’autres applications plus bénéfiques, par exemple dans l’apprentissage. Par ailleurs, plusieurs actualités récentes ont mis en lumière les biais (comme la discrimination) inculqués aux algorithmes d’IA par leurs concepteurs, illustrant les progrès restant à accomplir pour se rapprocher de jugements neutres entraînant un véritable effet positif de leur usage.

 

Lire l’article (en anglais)

 

En complément :

Un article (en anglais) au sujet des compétences les plus recherchées à l’avenir,

et une cartographie des métiers du numérique en 2016.