La catégorisation

La catégorisation d’un individu consiste à le placer dans un groupe d’individus partageant un même ensemble de critères. Dès lors il sera traité selon la même stratégie que celle appliquée aux autres membres de cette catégorie. Un même individu peut appartenir à plusieurs catégories donc plusieurs groupes.

Il ne faut pas se le cacher, l’être humain catégorise ses congénères de façon massive et parfois de façon très subjective. Qui est considéré comme grand ou petit, gros ou maigre, intelligent ou stupide, bon ou mauvais, agréable ou répugnant, etc.

Les entreprises établissent de la même façon des catégories concernant leurs clients, leurs prospects, leurs fournisseurs, leurs employés, leurs abonnés. Pour des raisons d’efficacité et parfois d’éthique, les entreprises cherchent à réduire la subjectivité de la catégorisation. Pour ce faire elles définissent des critères avec précision et mettent au point des procédés permettant de les vérifier, certaines vont même jusqu’à publier leurs critères.

Finalement la catégorisation devient quasiment inévitable. Mais dans un monde hyperconnecté ou il est de plus en plus difficile de sortir des traces que l’on laisse plus ou moins volontairement, des effets pervers apparaissent.

Les cages catégorielles

Parce que vous allez faire quelques recherches sur internet, on va vous affubler d’une catégorie. Ensuite à chacune de vos actions on va orienter la connaissance que l’on vous délivre par rapport à cette catégorie. On va finalement vous enfermer dans cette catégorie, les autres informations ne vous parviendront plus. Vous serez prisonniers de cette cage catégorielle jusqu’à finir par y ressembler totalement.

Ce n’est pas la bande annonce d’un film catastrophe, c’est la réalité du moment.

Il nous est tous arrivé de recevoir un ami et a cette occasion de rechercher sur internet des informations au cours de la discussion. Il peut même s’agir de sujets totalement hors du champ habituel de notre sphère d’intérêt. Et ceci aura un impact sur les prochaines informations que nous allons recevoir durant des semaines, voire plus, c’est l’effet « retargating ». A l’agacement s’ajoute aussi dans certains cas le risque que nous soyons orientés et convertis petit à petit.

Mieux nous connaitre est une chose qui peut nous être bénéfique, nous enfermer dans une cage catégorielle en est une autre, tout à fait condamnable.

Pourtant la solution technique existe, elle se situe dans le monde de l’intelligence artificielle et consiste à traiter l’individu non comme une statistique à laquelle il finira par ressembler mais comme un ensemble de différentiateurs.  Le traiter pour ce qu’il est et non pour ce qu’un système plus ou moins dominateur voudrait qu’il soit.

Nos problèmes ne viennent pas de la technologie mais uniquement de la façon dont elle est mise en œuvre. Et bien souvent cela n’est dû qu’a un manque de compétence ou de discernement des créateurs des systèmes qui ne savent pas ou ne veulent pas prendre en compte la situation telle qu’elle est vécue par l’individu concerné. Par simplisme ils se contentent de construire le système à leur propre image, considérant que tous les autres doivent raisonner comme eux. Et pourtant ils auraient tout à gagner à étudier et prendre en compte la psychologie des individus concernés.

Sortir de la cage

C’est donc à nous de prendre les choses en main et de porter notre défiance sur les sociétés qui nous adressent des messages sans discernement. Ce mouvement s’installe progressivement notamment avec le VRM (vendor relationship management). Chacun d’entre nous aspire à sortir de sa cage catégorielle, à vivre sa vie et recouvrer son autonomie et sa liberté.

Demain, nos startups vont nous proposer des robots, des personnes électroniques, dotés de capacité de discernement qui nous conseilleront et qui filtreront les informations que nous recevons. Ces robots seront programmés selon nos désirs, nous pourrons les choisir comme on choisit une voiture qui nous ressemble avec laquelle on se sent bien.

Mais aujourd’hui, très concrètement, nous nous situons dans une zone de transition dans laquelle des systèmes peu intelligents nous enferment dans des cages catégorielles. La démarche n’est pas toujours manipulatoire, il s’agit principalement d’un simple manque de compétence des concepteurs.  Pourtant ces derniers nous les présentent bien souvent comme « sortis de leurs programmes de recherche en intelligence artificielle ».

Prenons par exemple un chatbot, terme à la mode qui désigne un automate qui prend en charge une conversation avec un individu humain. Dans la plupart des cas le chatbot repose sur un arbre de décision qu’il exécute sans aucune intelligence. L’intelligence réside uniquement dans le cerveau de celui qui a produit l’arbre de décision. Nous sommes nombreux à dire que cela ne relève pas de l’intelligence artificielle. Si le chatbot était un humain, il ne se contenterait pas de traiter le problème, il chercherait à comprendre son interlocuteur et adapterai sa réponse à sa psychologie. Alors pourquoi ne pas doter le chatbot de cette même intelligence ? il s’agit bien là uniquement d’une problématique de compétence ou de volonté du concepteur.

L’entreprise qui comprendra que contraindre les gens, les enfermer dans des cages catégorielles ne marche qu’un temps et qu’il est bien plus pérenne de leur offrir l’intelligence et la liberté prendra le leadership sur toutes les autres. Nous encourageons vivement les créateurs à y réfléchir.

Jean Pierre MALLE.