Les défauts très humains de l’intelligence artificielle

Non, l’intelligence artificielle n’est pas le seul résultat de froids calculs. Des biais divers et variés proviennent de l’exploitation de données erronées ou de « bulles filtrantes », et l’empêchent d’atteindre l’objectivité souhaitée. Pour obtenir des systèmes plus fiables, les concepteurs vont devoir étudier de près ces dérives.

Les machines ne prendraient de décisions qu’à partir de froids calculs, sans erreur possible ? Une idée très répandue et pourtant fausse selon TechCrunch. Mises au point et entraînées par des hommes, les intelligences artificielles sont victimes de nombreux biais, prompts à les détourner de leur hypothétique objectivité. Première source d’erreur, les éléments qui alimentent l’apprentissage. Si la qualité des données utilisées est douteuse ou si les interactions avec les internautes ne sont pas traitées avec précaution, les dérapages peuvent survenir. Un chatbot basé sur Twitter a ainsi dû être retiré après 24 heures d’exercice. Un groupe d’internautes lui avait tout simplement appris le racisme et la misogynie.

 

Le reflet des faiblesses des humains

 

Autre défaut des algorithmes, la génération de « bulles de filtrage ». Facebook en est un exemple flagrant. En cherchant une personnalisation extrême, le réseau social ne montre à ses membres que des publications conformes à ce qu’ils ont aimé ou partagé. Et il se mue progressivement en une version algorithmique du biais cognitif dit de « confirmation ». Une dérive qui pourrait même freiner l’innovation en entreprise en conduisant les équipes à éviter les idées qui sortent de l’ordinaire.

D’autres types de biais – similarité, objectifs contradictoires – peuvent également altérer la pertinence des analyses tirées de l’intelligence artificielle. Idéalement, les algorithmes doivent tendre à l’objectivité. Mais développés par des humains, ils reflètent mécaniquement leurs propres contradictions. Le simple fait de connaître la nature de ces biais peut permettre de les corriger et d’éviter des erreurs qui pourraient s’avérer fatales pour la réputation d’une entreprise.

 

Lire l’article (en anglais)

 

En complément :

Un article (en anglais) sur l’absence de neutralité des algorithmes de recrutement,

et un article du Guardian (en anglais) sur un test de détection de biais des algorithmes.