Ep 2-11: Ethique et TOC de l’intelligence artificielle

Lorsqu’une nouvelle technologie apparaît, il y a un temps de latence plus ou moins long avant que des boucliers ne se lèvent pour parler d’éthique et de réglementation. En fait si on y réfléchit rien n’empêchait La Redoute de faire Amazon avant Amazon. Rien n’empêchait Orange de faire Google avant Google. Mais, le tournant raté, ces entreprises se pressent d’en appeler à la loi et à la norme. Cela finit en trouble obsessionnel compulsif anti Amazon ou anti Google. Alors que ceux-ci ont simplement fait mieux que ceux-là. Dans le domaine vaste et obscur de l’éthique, il y a ceux qui savent, comme les excellentes chaines science4all ou Mr Phi sur youtube, et ceux qui voit une opportunité de recycler leurs vieilles pensées dans un nouveau combat rémunérateur. En Intelligence artificielle certes, Terminator nous a fait énormément de mal. Mais y-a-il vraiment un problème d’éthique lié à l’IA? Ou bien les juristes et les philosophes se cherchent-ils juste un nouveau job?

Je parle ici de l’IA réelle, pas des fantasmes qu’elle procure ou des espoirs que certains font commercialement miroiter pour induire béatitude au fonds d’investissement ou la BPI. Il était une fois un explorateur dans le Pacifique, au 18eme siècle. Il aborde une île peuplée de cannibales, OK, mais avec des fleurs dans les cheveux quand même. Il fait ce que faisaient alors les explorateurs, il dépose deux missionnaires chrétiens pour ramener les polynésiens dans le chemin de la vraie foi. Puis il repart. Il revient six mois plus tard et là, plus de missionnaires. Par contre les cannibales mangent désormais la viande humaine avec une fourchette. Alors, y-a-t-il une éthique de la fourchette?

La plupart des outils ont un usage dual. Le couteau peut tartiner la confiture ou se planter dans une poitrine. Le feu peut chauffer une famille ou incendier une ville assiégée. Le livre peut sauver l’âme ou condamner l’hérétique.

Même le fusil automitrailleur, si cher aux Américains, peut servir à frimer devant le Trump fan club ou bien à commettre un attentat.

L’outil n’a pas d’éthique. Le problème, c’est nous. Comme le disait le philosophe Pierre Desproges, dès que l’homme de croc-magnon a inventé la massue il a tout de suite penser à en mettre un coup sur la tête de la femme de croc-magnon.

L’IA est un outil particulier, en cela qu’il ne fait rien ou pas grand-chose. C’est un outil d’investigation qui permet de savoir, de prédire ou de piloter. D’assouvir sa curiosité qui est parait-il considéré par certain comme un vilain défaut. C’est un peu comme avoir un astrologue, mais dont les prédictions seraient justes. L’IA c’est un oracle qui marche. Comme tous les outils, il crée un avantage compétitif à celui qui le possède par rapport à celui que ne l’a pas. C’est dire si le monde est mauvais.

Donc en effet une IA opérée par une organisation de bienfaisance bouddhiste risque moins de faire des dégâts qu’une IA qui prédit l’orientation sexuelle opérée par le gouvernement Tchetchene ou d’autres arriéristans. Mais le problème, ce n’est pas l’IA.

Paradoxalement l’accès à la technologie peut aider les ennemis du progrès, mais on peut tout aussi bien dire la même chose des livres ou des réseaux sociaux. Alors la solution c’est souvent d’en appeler à la norme, à la loi. Nous ne tarderons pas à entendre parler de l’impact apocalyptique de l’IA sur le Climat. (oups désolé, je m’aperçois que l’étude est sortie en 2019, mauvaise prédiction de ma part)

Même si nous n’aimons pas cacher, que les codes trainent sur github en libre et en clair, il peut arriver que des fourchettes soient données à des cannibales. Pour les dirigeants de startups, il y a donc la nécessité de s’interroger sur ce qui est partageable et sur ce qui ne doit en aucun cas être partagé. En cela, cela ressemble à la doctrine de non-prolifération nucléaire qui, je vous l’accorde, ne nous a pas épargné la Corée du Nord et autres pays ravagés par les croyances.

Ce qui est partageable c’est ce que n’aime pas les cannibales: le savoir, la science. Ce qui ne l’est pas c’est les usages, la technologie.

La fourchette n’a pas coupé l’appétit des cannibales mais elle leur a rendu la vie plus facile. Il appartient à chaque inventeur d’outils, de mon point de vue, de réfléchir en même temps qu’à la commercialisation d’un produit à la bonne façon de nuire à ceux qu’il ne veut pas aider.