Faut-il encadrer le développement d’algorithmes ?

Emploi, condamnations judiciaires, accès au crédit, recommandations… les algorithmes prennent une place de plus en plus importante dans les décisions qui nous affectent. Pour s’assurer de leur déontologie, certains plaident pour l’adoption d’une réglementation régissant leur conception, quand d’autres craignent, au contraire, de freiner la créativité des développeurs.  

Dans de nombreux états américains, c’est un algorithme qui décide de la durée des peines de prison auxquelles sont condamnés les criminels. Si, de manière générale, cette initiative a permis de diminuer les coûts carcéraux et le taux de récidive, dans certains cas, notamment lorsque l’origine ethnique et le lieu de résidence sont utilisés comme variables, les jugements rendus par l’algorithme peuvent s’avérer désastreux. Un exemple parmi de nombreux autres pour Markus Ehrenmann, Lead Architect, AI et Machine Learning chez Swisscom, qui milite pour l’adoption d’une réglementation encadrant la conception d’algorithmes, à l’heure où ceux-ci envahissent notre quotidien.

 

Faire évoluer le droit sans entraver l’innovation

 

Pour comprendre les décisions qui nous affectent et lutter contre de potentielles discriminations, il estime que nous devons décrypter les processus décisionnels à l’œuvre dans les algorithmes et les corriger quand c’est nécessaire. Sans entraver l’innovation en matière d’intelligence artificielle, il nous faut néanmoins protéger nos droits et, à ses yeux, c’est notamment la vocation du règlement européen sur la protection des données qui entrera en vigueur en 2018.

 

Pouvoir contrôler un algorithme susceptible de faire l’objet d’une utilisation inappropriée, Mouloud Dey, Directeur de l’innovation chez SAS France, y est entièrement favorable. En revanche, il est fermement opposé à ce que des réglementations strictes viennent entraver la créativité des développeurs, car pour lui, en cas de litige, c’est avant tout l’usage qui est fait de l’algorithme qui doit être mis en cause. Sans compter qu’en pratique, l’intervention d’un régulateur se heurterait à bien des obstacles, à commencer par la course contre le temps dans un contexte de progrès technologique accéléré…

 

C’est aussi aux utilisateurs de se montrer vigilants par rapport aux informations qu’ils communiquent et aux différents usages qui pourront en être faits, ajoute Mouloud Dey, qui déclare à titre d’exemple détenir un profil LinkedIn mais pas de profil Facebook. Enfin, face à la pression qui pèse sur la transparence des organisations, il n’a pas de doute quant à la capacité du marché à s’autoréguler et aux entreprises d’expliquer très clairement à leurs clients les mécanismes à l’œuvre dans les algorithmes qu’ils utilisent.

 

Lire l’article

 

En complément :

Les entreprises françaises face au règlement européen sur la protection des données,

Le gouvernement souhaite plus de transparence autour des algorithmes.