Les algorithmes sont-ils responsables de leurs décisions ?

Lorsqu’un opérateur humain prend une décision dictée par une machine, qui est responsable ? Cette question devient de plus en plus brûlante à mesure que les algorithmes investissent notre vie quotidienne, tant professionnelle que personnelle. Les chercheurs Daniel Le Métayer (Inria) et Antoinette Rouvroy (Université de Namur) ont récemment discuté de cet enjeu de société dans le cadre d’un cycle de rencontres organisées par France Stratégie.

L’obtention ou non d’un crédit bancaire fait aujourd’hui de plus en plus souvent l’objet d’un traitement algorithmique. Dans un tout autre registre, des calculs peuvent être effectués par un ordinateur afin d’optimiser le déploiement des forces de l’ordre au cours d’une manifestation. Mais dans un contexte ou dans l’autre, bien qu’un algorithme oriente la décision, celle-ci est jusqu’à présent toujours associée à un banquier ou à un policier — en bref, un opérateur humain.

Jusqu’où faut-il aller dans la substitution des décisions au profit de machines, interroge Daniel Le Métayer, Directeur de recherche à l’Inria ? En effet, les algorithmes ont pour caractéristique d’influencer nos vies, ils sont loin d’être neutres et, en général, demeurent largement opaques. Dès lors, comment qualifier la responsabilité de décideurs humains ne maîtrisant pas la logique de dispositifs auxquels ils se contenteraient d’obéir ? À travers le concept de « gouvernementalité algorithmique », Antoinette Rouvroy, du Centre de recherche en information, droit et société de l’Université de Namur, alerte sur le risque d’abandonner une rationalité « moderne », reliant les causes aux conséquences, au profit d’une autre, basée sur les corrélations et les statistiques, qui relègue l’intelligence humaine au second plan.

 

Motiver les décisions prises par les algorithmes

 

Du point de vue des entreprises et des administrations, cependant, les algorithmes et leur code source peuvent représenter un actif essentiel, protégé par le secret industriel ou la propriété intellectuelle. C’est pourquoi les pistes de régulation auxquelles réfléchissent les chercheurs et les autorités portent avant tout sur les données personnelles exploitées par les machines, ainsi que les conséquences de leur traitement pour les individus. Pour Daniel Le Métayer, il importe par exemple de penser la transparence en amont, dans une démarche de responsabilisation. Enfin, dans le cas de décisions prises par des organisations sur la base d’un traitement automatique, il apparaît légitime de leur demander d’être à même de les motiver. Une mesure de justice qui aurait pour conséquence naturelle de forcer les décideurs à s’intéresser à la logique de leurs outils algorithmique tout en renforçant leur responsabilité.

 

Lire l’article

 

En complément :

Un article au sujet des algorithmes et des choix de société,

et une interview sur le recrutement à l’aide des big data.

 

À lire sur Business Analytics Info :

« Les algorithmes, une source d’enseignement sur nos comportements »

et

« Qui de l’homme ou de la machine prend la décision ? ».