Dans chaque foyer il existe un ou plusieurs couteaux de cuisine, avec des lames pouvant parfois dépasser les vingt ou trente centimètres. L’utilité de ces objets est incontestable, et bien avérée. Pourtant ces mêmes objets, mis entre les mains de personnes irresponsables peuvent devenir des armes redoutables, souvent fatales ! Où finit l’utilité d’un objet et où commence sa dangerosité ?

La question concerne la quasi-totalité des inventions humaines, inventions visant généralement à « faciliter » la vie de l’homme. En effet, tout objet renferme en lui les vertus de l’utilité et les maléfices de la dangerosité. Le tout revient à l’USAGE qui en est fait. Entre certaines mains, qu’on qualifierait d’innocentes, certains objets enchantent les utilisateurs pour les bienfaits qu’ils procurent, mais entre d’autres mains, ces mêmes objets pourraient empoisonner la vie d’autrui, voire la détruire.

Il n’y a pas que les créations humaines à la fois bienfaisantes et malfaisantes qui répondent à cette redoutable dualité. La nature elle-même est partout truffée de cette désespérante dualité. Prenons le cas du sel et du sucre par exemple. Ces deux ingrédients sont indispensables à l’équilibre physiologique de l’homme, mais tout abus pourrait être d’une extrême dangerosité. Le vocable « overdose » rappelle l’issue fatale auquel un abus pourrait conduire.

Est-ce que l’Intelligence Artificielle, cette nouvelle panacée, serait-elle en passe de devenir la grande question du moment, la menace du futur ? Comme toutes les innovations qui l’ont précédée, elle interpelle. Malgré les immenses promesses qu’elle est supposée garantir, les présomptions de catastrophes restent très prégnantes.

Cela est d’autant plus normal que les innovations, surtout les plus spectaculaires, secouent les certitudes, rompent le confort du quotidien, et laissent planer le doute sur l’usage qui pourrait en être fait. Rien d’étonnant qu’avec les vulgarisations faites par les médias, les premières réactions du grand public soient empreintes de défiance. Histoire du verre à moitié vide ?

Comme à l’accoutumée, les médias vendent la peur et du coup la société prend peur face aux nouveautés. Sauf que souvent ils focalisent sur les aspects ayant une incidence négative, et supposée immédiate sur un large public. On vient de voir tout récemment comment la revue marocaine « Telquel » a abordé le sujet de l’Intelligence Artificielle. Ce magazine, excellent par ailleurs, est tombé dans le piège en titrant en manchette : « Menace sur l’emploi ».

Titre d’autant plus surprenant qu’à mon humble avis, c’est l’aspect le moins inquiétant des multiples risques que fait courir l’IA à la société. Certains, ceux qui voient le verre à moitié plein, y verraient même une véritable opportunité comme l’ont été auparavant toutes les opérations d’automatisation. L’informatique par exemple, était supposée détruire des millions d’emplois. C’est tout le contraire qui s’est produit avec l’apparition d’un nombre incalculable de nouveaux métiers. Sans compter avec l’augmentation phénoménale de productivité, qui a permis de dégager assez de profits investis pour innover et booster l’économie. 30% des métiers nouveaux n’existaient pas il y a trente ans, et 80% n’étaient pas connus de l’homme il y a un siècle.

Aucune appréhension à se faire sur l’emploi ! Même si à un moment on devait assister à des destructions massives d’emplois, cela ne durerait que le temps de la recomposition de la vie sociale et la réadaptation à la nouvelle économie qui en résulterait.

L’inquiétude persistera car le plus dérangeant dans l’Intelligence Artificielle, c’est le mot « Intelligence ». Il y a dans ce vocable une véritable charge explosive dans la mesure où le sempiternel conflit Homme-Machine vécu depuis la révolution industrielle, la Machine semble cette fois-ci prendre un avantage décisif sur l’Homme.

Alors que jusque-là l’intelligence était l’apanage des humains, voilà que les machines vont se doter d’une intelligence apparemment supérieure dans la mesure où elle dépasse celle de l’Homme en puissance de calcul et en capacité de mémoire. Entendez par puissance de calcul, le nombre prodigieux d’opérations binaires faites par un calculateur en une unité de temps. La seconde, qui est l’unité de temps habituelle, est bien trop trop longue, une éternité, au point que certains scientifiques ont déjà changé d’échelle et préfèrent standardiser la nanoseconde. Pas pour longtemps, car prochainement les calculateurs quantiques vont populariser les pico secondes (un millième de la nano) ou même les femto secondes (un millionième de la nano).

Ce changement d’échelles est difficilement assimilable. Même les esprits les plus avancés auront toutes les peines du monde à s’y faire, car l’assimilation demandera beaucoup de temps. Heureusement que le grand public n’éprouvera pas le même vertige car, la notion de l’infinitésimal, pas forcément nouvelle, n’a jamais été approchée en terme d’échelle.

L’autre composante fondamentale de l’Intelligence Artificielle, est la capacité de mémoire. On arrive à stocker des données en quantités quasi illimitées, avec des délais de lecture quasi instantanés. L’avenir proche réserve des progrès encore plus spectaculaire avec l’avènement de l’ADN artificiel. Cela va démultiplier dans des proportions encore inconnues les capacités de mémoire déjà immensément grandes.

On ne peut pas ne pas être saisi de vertige, où d’incrédulité face à la démultiplication quasi infinie de deux, des principales facultés constitutives de l’intelligence : le nombre inimaginable d’opérations pouvant être effectuées en un temps donné, et la capacité de mémorisation quasi illimitée.

L’intelligence humaine se réduit-elle à ces deux seules fonctionnalités ?

Heureusement que non, serait-on tenté de penser ! Cela voudrait-il dire que l’homme garde ses chances de triompher une fois de plus, dans sa guerre incessante contre la machine ?

Mais quelle est la faculté propre à l’intelligence humaine, qui manquerait à l’intelligence artificielle et qui ferait basculer le conflit en faveur de l’homme ?

Avant de tenter de répondre à ces questions, il faut rappeler qu’à la base de toute intelligence, il y a la notion d’apprentissage.

Que va-t-on apprendre à une machine et comment le faire ?

Dès l’abord on se heurte à une impossibilité majeure en rapport avec la notion « d’explication ». Pour un élève en apprentissage, on lui fournit un nombre fini de données, mais on recourt à l’explication pour relier les données entre-elles. La cohérence du résultat est la sanction de l’intelligence de l’individu !

Les choses ne peuvent pas se passer pareillement avec la machine. A défaut d’expliquer à la machine, on la « gave » avec une infinité de données en implémentant toutes les solutions possibles. Grâce à ces innombrables données, des algorithmes élaborés permettent à la machine d’envisager des cas de figure qui ont échappés au concepteur précisément à cause de son incapacité à intégrer l’impressionnant flux d’informations. La machine reste cependant incapable de donner une explication à l’apparition d’un cas de figure singulier. C’est à l’homme de comprendre que la singularité est de l’ordre de l’aléatoire, de la statistique.

L’incapacité de la machine à expliquer les résultats proposés n’est qu’un aspect « bénin » des multiples dangers, autrement plus graves, que pose la folle aventure de soumettre la machine à l’apprentissage intensif, autrement dit à lui fournir toutes les données disponibles. Ce qui revient à interconnecter entre eux l’ensemble des « Data-Centers » de la planète.

C’est là un risque majeur qu’on ne saurait atténuer sans brider les performances de l’IA. La machine est censée être à la portée du plus grand nombre. Dans le cas contraire, c’est à dire en restreignant l’accès, l’éthique en souffrirait à coup sûr.

Autre aspect dérangeant de cet apprentissage, c’est que les maîtres d’œuvre appartiennent à des pays et des cultures qui prétendent à l’universalité, mais qui ne le sont pas dans les faits. Compte tenu de l’impressionnante avancée technologique du monde occidental, il s’arroge le droit d’assurer cet apprentissage, autrement dit à gaver les machines par des données qui sont en parfaite harmonie avec sa culture.

Quand on connaît la fâcheuse tendance des Occidentaux à imposer leurs propres visions des faits historiques et leurs interprétations fantaisistes, car souvent mâtinées d’européocentrisme, on peut redouter que l’IA, telle qu’on nous la sert aujourd’hui, pourrait être d’une fâcheuse subjectivité. Une Intelligence nativement tendancieuse, est-elle assimilable à de l’Intelligence véritable ?

L’absence d’universalité de cette intelligence la rend suspicieuse, ce qui peut légitimement conduire à terme à sa mise en cause. Grâce à ChatGPT, j’ai tenté quelques recherches sur les nuances entre Chiisme et Sunnisme. Pour un Occidental le déroulé des réponses me parait largement correct, mais pour un musulman, qui connait les deux cultes, le résultat est nettement insuffisant. De mon point de vue certains points étaient carrément erronés et trahissent au passage une méconnaissance de l’Islam.