Ep2-1: Prédire sans comprendre
Imaginons .. C’est le matin et vous découvrez un gros bouton noir pas beau sur votre jambe. Vous avez le choix entre deux possibilités pour savoir si c’est benin ou malin. Soit vous allez voir un dermato, que nous appellerons Robert, qui prédit le mélanome dans 75% des cas en utilisant la méthode académique d’étude de la forme, de la couleur, de la rugosité, de la pilosité du naevus. Soit vous allez consulter une intelligence artificielle, que nous appellerons Lucienne, qui prédit à 99% la dangerosité de bouton noir mais sans pouvoir justifier sa prédiction par des explications. Vous faites quoi? Robert ou Lucienne?
Ce problème empêche de dormir les gens formés à la méthode scientifique. Avec Robert, on comprend mais on est pas efficace. Avec Lucienne, on est efficace mais on comprend pas.
Je vais sans doute froisser les informaticiens académiques, mais ils sont finalement des mathématiciens ratés, comme les physiciens. J’ai autrefois dirigé des projets de recherche industriels et j’avais confié à un laboratoire de physique à l’université une de mes manips à analyser. Le chercheur ayant trouvé que la manip suivait une équation mathématique issue d’un domaine merveilleux de théorie des groupes de renormalisation, j’ai vu l’épiphanie sur son front et on en a bouffé pendant des mois de « ça vérifie l’équation ». Les mathématiciens ont une tendance agaçante à s’extasier dès que la nature suit une de leur loi, qu’un escargot tourne selon une suite implicant le nombre d’or. Si on trouve PI quelque part c’est l’orgasme. Sauf que bien vite on s’aperçoit que la Nature ne suit la loi qu’en gros.. Alors on met des coefficients pour que la loi marche encore. La loi de gravitation de Newton on y croit. Puis la Relativité d’Einstein montre qu’une autre équation marche mieux (nouvelles extases chez les astrophysiciens). Mais quand même pas tout à fait. Alors on cherche une nouvelle théorie qui unirait les atomes et l’univers.
Moi je viens d’une humble science naturelle, la chimie, qui comme la biologie, ou les sciences sociales n’ont que rarement la chance que les mathématiques décrivent la réalité autrement que dans une expérience tellement ajustée et contrainte qu’elle ne ressemble plus à la Nature. Nous sommes à la frontière entre l’atome et le matériau composite d’ un A380. Je vous laisse imaginer l’épaisseur de la frontière. Nous sommes habitués à la déception.
En IA donc, pour être brutal, il y a ceux qui ne veulent pas s’en servir tant que les prédictions ne sont pas interprétables, comprenez par une loi, et ceux qui considèrent que l’on peut s’en servir du moment que ça marche. Evidemment il faut vérifier que ça marche. Mais notre cerveau fonctionne comme ça aussi. On prend des décisions en on les explique après. Et il y a une différence compétitive entre ceux qui font cet exercice avec succès et ceux qui se fourvoient trop souvent.
Personnellement, je trouve tout à fait passionnantes les études sur la compréhension des inférences de réseaux de neurones. Mais en attendant qu’elles aboutissent, il y a tellement de choses merveilleuses à explorer dans la nature. Alors soyons curieux et circonspect, mais surtout, comme disent les frères Bogdanoff, expérimentons.
