Pas de prise de décision sans biais cognitifs

Prendre une décision est un processus qui est tout sauf anodin : il repose sur l’information disponible, le sens de cette information, le temps nécessaire pour la traiter, ainsi que l’espace indispensable pour la stocker. Mais tant l’homme que la machine sont confrontés à des limites intrinsèques que seuls des biais cognitifs permettent de surmonter.

Il faut savoir accepter les limites pour mieux les dépasser. Cette réflexion pourrait figurer en conclusion de l’intéressant travail de synthèse mené par Buster Benson, directeur produit de la plateforme Slack, autour de la notion de biais cognitif. L’encyclopédie en ligne Wikipédia en dénombre plus de 200, que l’auteur a regroupés en 20 catégories et surtout articulés autour de quatre « casse-têtes », en partant du constat que l’univers possède quatre propriétés intrinsèques qui limitent l’intelligence, qu’elle soit humaine, individuelle, collective ou artificielle (IA). Suivant cette vision du monde, les biais cognitifs constituent le seul moyen de résoudre ces casse-têtes, avec l’inconvénient d’influencer le jugement.

 

Humain ou intelligence artificielle, même combat

 

Le premier d’entre eux est le trop-plein d’information, qu’il est impossible de considérer de façon exhaustive même pour une hypothétique « super IA ». Son accès sera toujours restreint, que ce soit pour des questions de localisation, par manque d’énergie disponible, etc. D’où le recours à des biais tels que la répétition ou la confirmation. Deuxième casse-tête : la multitude de significations que l’on peut tirer d’un ensemble d’informations brutes reliées entre elles par un processus cognitif nécessairement subjectif, imprécis et dépendant d’expériences passées. Là aussi, humain ou IA doivent se tourner vers des biais comme la généralisation ou la simplification.

Ensuite, il apparaît impossible d’étudier toutes les issues d’un problème complexe et toutes leurs conséquences pour être certain d’avoir pris la décision optimale sans y passer un temps quasi infini. Ce qui explique pourquoi nous utilisons notre intuition et résolvons ce type de problème en imitant des solutions déjà opérantes dans des cas similaires ; et pourquoi les programmes d’intelligence artificielle fonctionnent avec ces mêmes biais pour réussir.

Enfin, outre le manque de temps, le manque de mémoire représente le quatrième et dernier casse-tête répertorié. Notre cerveau, d’une certaine manière, fait le tri pour conserver certaines informations brutes, expériences et décisions, et pas d’autres, comme des scénarios et des exemples significatifs. Une stratégie que les machines sont forcées de reproduire, sans quoi elles seraient confrontées aux mêmes casse-têtes pour explorer leur propre mémoire…

 

Lire l’article (en anglais)

 

En complément :

Un « petit catalogue » de biais cognitifs,

et un plaidoyer (en anglais) pour l’intelligence artificielle dans le B2B.