Encadrer les algorithmes pour susciter la confiance

Si la puissance des algorithmes fascine, leurs dérives potentielles peuvent parallèlement être source d’angoisse… La technologie en elle-même n’est pourtant pas en cause, mais plutôt l’usage qui peut en être fait. Il est donc nécessaire de prendre les dispositions éthiques qui permettront à la société de progresser dans la bonne voie à l’aide de ces technologies.

Les centrales au charbon tirent aujourd’hui parti d’algorithmes, dont la mission est d’optimiser la production énergétique, sans considération des éventuelles conséquences environnementales… Les réseaux sociaux s’appuient sur des algorithmes programmés pour attirer, coûte que coûte, l’attention de leurs membres… Certains médias financés par la publicité n’ont pour seul objectif que d’accroître le nombre de clics comptabilisés sur leurs pages, au mépris de la déontologie et de l’information… Autant d’exemples qui expliquent pourquoi les algorithmes sont parfois perçus comme une menace envers la civilisation – menace qui s’amplifie au fil des progrès technologiques.

 

Un système judiciaire plus juste grâce aux algorithmes

 

Pourtant, malgré tous les fantasmes nourris par la science-fiction, un algorithme n’est rien d’autre qu’un ensemble de règles conçues par des humains. Bien que leur puissance et leur portée soient inédits, les algorithmes de machine learning ne valent que par l’intention qui les a motivés et les données qui les ont alimentées. D’où l’importance d’encadrer leur conception et leur amélioration. On sait, par exemple, que les logiciels de reconnaissance faciale identifient pour l’heure plus facilement un homme blanc qu’une femme noire. Melinda Gates, qui finance des ONG comme « AI4All », prévient d’ailleurs que si les femmes et les personnes de couleur ne sont pas activement impliquées dans ce travail initial, le système entier sera biaisé et qu’il sera quasiment impossible de corriger le tir dans dix à vingt ans.

 

Toutefois, les risques éventuels ne doivent pas faire perdre de vue l’énorme potentiel que recèlent ces technologies. Une approche algorithmique des condamnations criminelles pourrait par exemple permettre de réduire le taux d’incarcération sans risque pour la sécurité de la population. Les peines, jusqu’alors fondées sur l’intuition d’un juge ou les préférences subjectives des jurés pourraient en effet être imposées par une intelligence artificielle a priori plus intègre et plus juste.

 

Si la vocation initiale d’un algorithme ne garantit en rien son comportement éthique à long terme, il est nécessaire d’en contrôler soigneusement la conception et l’alimentation, non seulement au moment de son développement, mais également tout au long de son cycle de vie. L’enjeu est crucial : la confiance des internautes et des consommateurs qui conditionne leur adhésion.

 

 

Lire l’article (en anglais)

 

En complément :

De l’efficacité des algorithmes dans la prédiction des récidives

Un algorithme pour prédire les risques cardio-vasculaires