Ep 2-2: Comment virer un expert?

« À chaque fois que je vire un linguiste, mon logiciel de traitement du langage s’améliore ». Ainsi parlait Frederick Jelinek, un des principaux porteur de ces activités chez IBM.

C’est particulièrement clair pour le langage mais cela est aussi vrai pour bien des domaines: la façon dont raisonnent les experts ne correspond pas à la façon d’apprendre d’un humain. Et il se trouve que pour les intelligences artificielles, c’est pareil: elles ne supportent pas les experts.

Dans les années 90, il y a eu une mode des systèmes experts. Ces logiciels utilisaient des règles pour faire une prédiction. Un nouveau métier est très peu de temps apparu: celui de presse-citron. C’était des gars qu’on voulait envoyer auprès des experts pour leur presser le citron et obtenir les règles à mettre dans le système expert. On se demande encore comment des gens on pu imaginer que ça allait marcher.

Nous avons tous acquis au moins un langage sans en apprendre ni les règles de grammaire, ni les structures syntaxiques. Tous les enfants parlent bien avant de savoir ce qu’est un complément d’objet direct. Ils apprennent comme les IA, par la mise en présence de multiples exemples, de multiples fois. Ils s’améliorent. Mais plus tard, quand on apprend une langue étrangère, le mécanisme est cassé, notre cerveau pas assez souple pour faire de même, alors on devient des experts en grammaire et en règles, on apprend des listes et des conjugaisons et on ne se débarrassera jamais de notre accent au demeurant charmant.

L’expert apprend puis raisonne, l’intelligence artificielle ou naturelle assimile puis intuite.

Alors faut-il se débarrasser des experts? En fait, là aussi, notre langage nous trompe. Le diable c’est le pluriel. « Les experts » ça ne désigne pas collectivement chacun des individus qui sont experts, ni l’étendu de leur domaine d’expertise. Mais le processus d’expertise consiste bien, dans son fondement, à employer des choses apprises pour ensuite utiliser des règles pour faire un diagnostic ou prendre une décision.

Un exemple amusant est celui fréquemment exposé du gros Tony. Le gros Tony n’a pas fait d’études mais il a trainé pendant des années dans les bas fonds et les tripots de New York. La cuisine du diable….Il n’a pas de culture scientifique et des manières si grossières qu’on aurait pu l’appeler Donald. Il est confronté dans une expérience à Docteur Bob, diplômé en mathématique d’une prestigieuse université et qui a fait une brillante thèse sur les probabilités bayésiennes. Ils assistent à une expérience dans laquelle on va tirer à pile où face avec une pièce non truquée. On va le faire 50 fois et 50 fois la pièce va tomber sur face. Qu’elle sera le résultat du 51ème tirage? Docteur Bob ne réfléchit pas longtemps pour dire qu’il y a une chance sur deux que le 51ème tirage soit pile malgré que les 50 essais précédents aient été face. Le gros Tony prédit Face. On tire alors la pièce est c’est Face. Pourquoi? Eh bien le gros Tony qui ne connait rien aux mathématiques a considéré que l’affirmation que la pièce n’était pas truqué était un mensonge (il aurait dit enfumage). Que la pièce était bien truquée. Son intuition, nourrie de plein d’expériences malheureuses, c’est que les faits sont falsifiés. Alors vous voteriez pour qui pour diriger la ville? L’expert aveuglé par son expertise ou le roublard professionnel?

L’entrainement d’une intelligence artificielle n’est pas encore une expertise. Cela le deviendra peut-être. Mais ce sera sans doute une compétence du futur.

L’expert est utile seulement si son expertise s’adosse à une excellente culture générale, à des expériences de vie, à une conscience. L’expert sec, lui, dit les règles apprises. Ils sont faciles à distinguer: le premier n’a pas peur de l’intelligence artificielle, il est curieux, le second est terrorisé et manque de curiosité. L’expert sec ne pose pas grand problème en régime de croisière, mais en période de changement, d’incertitude, il en va bien autrement. Il faudra discuter avec lui, argumenter à n’en plus finir..Discuter avec un expert tel que celui-là c’est un peu comme lutter indéfiniment dans la boue avec un cochon. Au bout d’un moment, il faut prendre conscience que le cochon aime ça.