Diversité et cross-disciplinarité contre les biais en Intelligence Artificielle

Le marché de l’intelligence artificielle est régulièrement critiqué pour manquer de recul sur les implications sociales de ses technologies, comme par exemple lorsque des biais de race et de genre viennent s’immiscer dans les algorithmes de recrutement ou de reconnaissance faciale.

Même les plus grandes institutions n’échappent pas à ces critiques, comme a pu l’expérimenter début mars l’Université de Stanford au moment du lancement de son « Institute for Human-Centered Artificial Intelligence” (HAI). Mais l’institut dont la promesse est d’étudier le manque de diversité et de cross-disciplinarité dans le secteur de l’IA a en fait été épinglé justement pour reproduire certains biais. En effet, sur les 121 membres présentés au lancement de l’institut, plus de 100 semblent en fait être blanc et en majorité des hommes. L’institut a répondu officiellement qu’il avait conscience de ce problème et que le chemin était encore long pour éradiquer les biais, de prochains recrutements y contribueront.

Ce sont en fait souvent des femmes qui se sont lancées dans les travaux les plus visibles pour lutter contre les biais dans l’Intelligence Artificielle, comme Joy Buolamwini, chercheur du MIT Media Lab (recherches sur les logiciels de reconnaissance faciale et leurs difficultés à identifier les personnes de couleur), ou encore Joanna Bryson, professeur à l’Université de Bath (travaux sur les algorithmes de reconnaissance de biais dans le langage). Comme l’explique Rumman Chowhury, responsable de l’équipe Intelligence Artificielle chez Accenture : “L’histoire de l’informatique est l’histoire de l’utilisation de la force de travail des femmes, car ce secteur n’était pas perçu comme rentable. L’informatique c’était taper à la machine, alors les femmes devaient le faire. On s’est ensuite rendu compte qu’il était possible de gagner de l’argent et du pouvoir avec l’informatique, et soudain la contribution de toutes les femmes et de toutes les femmes de couleur a disparu de cette histoire. C’est la même chose avec l’éthique et l’IA.

Lire l’article