CAHIER D’ESPÉRANCE N°973″ Jeunes du 92 et Entreprises de la Défense « 

TOUT NOUS SEPARE

Les initiatives se multiplient pour tenter d’introduire une dimension éthique dans la conception, la production et l’utilisation des algorithmes et des données liées à l’IA, notamment dans des domaines jugés sensibles tels que la santé, la justice ou la sûreté.
Il s’agirait même d’en faire le pivot d’une marque européenne pour ce type de technologie. La dimension éthique reposerait donc sur le fait de développer des IA « centrées sur l’homme » mais de quel homme s’agit-il ? L’humanité faisant preuve d’une très grande diversité -et c’est là sa caractéristique essentielle et existentielle, quelle perception de l’homme faut -il mettre au centre de l’IA ?

L’intelligence humaine a été, depuis toujours, analysée, scrutée, définie, mise en débat sur différents modes : philosophique, anthropologique, neurologique, psychologique, voire économique ; ce dernier appliquant à ce concept les méthodes comparatives de cette discipline, tournées vers les chiffres et les indicateurs. Nous avons ainsi vu émerger des tests et des concours pour évaluer ceux qui avaient plus d’intelligence et ceux qui en avaient moins.
Cette logique « concurrentielle » a été transposée à l’IA pour mettre en concurrence IA et IH.

Les humains ont donc tenté de classer l’intelligence, lui ont donné plusieurs signifiés et l’ont logée à différents endroits de notre corps, allant du cerveau au ventre ou au système nerveux, voire – de manière symbolique- au cœur. Ont été identifiées l’intelligence du cœur, l’intelligence de l’esprit, l’intelligence émotionnelle, collective, individuelle, économique, spirituelle, orgueilleuse, stupide, etc. L’IA fait figure de dernière-née. Elle a été construite de toutes pièces par des concepteurs (1) sur la base d’un malentendu : dans les années 1950, la science reposant en grande partie sur l’ingénierie et les mathématiques appliquées à la mécanique, les chercheurs ont entrepris de se représenter le fonctionnement de notre cerveau dans les mêmes termes que ceux qu’ils utilisaient pour concevoir et comprendre le fonctionnement des machines, c’est à dire en termes linéaires d’inputs, de transformations et d’outputs.
Le fonctionnement du cerveau ainsi appréhendé, ils ont avancé tout naturellement que les machines pouvaient reproduire le fonctionnement de celui-ci.
Non seulement la boucle s’est vue vite bouclée en figeant ce miroir artificiel cerveau-machine mais elle s’est emballée au cours du temps, de manière exponentielle. L’artificiel mime le naturel et vice­-versa.

Dans les publications, devenues désormais très nombreuses, techniques et pointues, le mal entendu ne fait que prospérer. Tellement omniprésent qu’il n’est même plus remarqué. Il va de soi, à quelques débats près, que l’on puisse attribuer à l’artificiel des termes tels que : autonomie, apprentissage, capacité à décider et à discerner, conscience, empathie, culture, amitié, voire sentiment religieux. Mais en cours de lecture, plusieurs éléments attirent notre attention: le sens de ces mots n’est pas le même quand ils habillent l’artificiel que quand ils concernent l’état d’esprit ou les activités humaines; la diversité humaine est loin d’être saisie dans sa complexité et ne peut devenir standardisée, même si les outils se veulent sophistiqués; une salutaire frontière existe encore entre le naturel et l’artificiel, qui garantit le vis- à vis, la distance indispensable pour éviter toute fusion, toute confusion. Les applications, sous quelque forme matérielle ou immatérielle qu’elles se présentent ne sont pas nos amies ni nos ennemies ni nos compagnons et n’ont pas à nous être présentés comme tels. Ces mimétismes ravageurs n’ont pas non plus à être gardés à l’esprit des concepteurs : nul besoin de s’efforcer à reproduire des voix, des expressions ni des visages humains pour que la technologie puisse être développée. Il ne s’agit pas de créer des humains artificiels, miroir de quelque perception réductrice de l’humain, mais des calculateurs. Gardons les proportions.

L’IA et l’IH ne sont pas en compétition, la première est le fruit d’une partie de la deuxième et ne saurait s’y substituer ni lui ressembler, à moins d’utiliser une rhétorique volontairement destinée à créer la confusion, le faux-semblant, à faire naître des vainqueurs et des vaincus, des maîtres et des esclaves, des super rapides et des extra lents. Les réflexions éthiques concernant l’IA qui tentent d’introduire des gardes fous pour que l’artificiel reste centré sur l’humain, ne pourraient-elles pas aider à franchir le cap indispensable qui consiste à écarter toute confusion entre l’IA et l’IH ? Parmi ces confusions, la première à éradiquer est celle véhiculée par le
langage utilisé pour décrire l’IA comme celui que l’on programme dans les outils afin de mimer nos gestes ou notre voix. Investir ce champ est également une source d’innovation car des nouvelles expressions, des nouveaux sons verraient le jour qui seraient spécifiques pour qualifier les résultats des calculs des algorithmes et leur rendu. Mettre fin au mimétisme serait un pivot pour que l’éthique inspire et garantisse un développement technologique respectueux de l’humanité et de l’homme, prenant en compte notre capacité spécifique à exister, à nous prendre en main, à exercer notre libre arbitre, à revendiquer nos différences. Pour cesser l’illusion d’attendre d’avantage d’un calcul que nous n’attendons les uns des autres.

Alan Turing, John McCarthy, Marvin Minsky, Ross Ashby, Norbert Wiener, Warren McCulloch, Walter Pitts, …

Texte fourni par Angela Minzoni, Conseil de Synthèse (Groupe numérique de NDP)

*****

Semaine du 17 au 24 juin 2020

Vous pouvez télécharger le Cahier d’Espérance N°973 au format PDF :

2020-973