Un rapport d'experts a mis en garde contre l’utilisation malveillante de l'intelligence artificielle, dont les progrès sont fulgurants ces dernières années. L’IA est au centre de la controverse, s’agit-il d’un futur miracle ou fléau ?

Un rapport de 100 pages a été écrit par 26 experts en intelligence artificielle, cyber sécurité et robotique. Ils proviennent d’universités prestigieuses, tel que Cambridge, Oxford, Yale ou Stanford, ainsi que d’organisations non gouvernementales (Electronic Frontier Foundation, OpenAI) et sont appréhensifs vis-à-vis du futur de l’IA.

Menace future

A travers ce rapport, ces experts demandent aux différentes parties prenantes (gouvernement, entreprises privées ou publiques) de mettre en place des « sécurités intégrées » (ou failsafe en anglais) afin d’anticiper sur les possibles menaces que représente l’intelligence artificielle.

En forte hausse, la cybercriminalité est l’un des points majeurs soulevé par le rapport. Des attaques cybernétiques en progression « permises par l’utilisation croissante de l’IA » particulièrement « efficaces » et surtout « difficiles à attribuer ».

Ce rapport met en évidence certains scénarii catastrophes, hypothétiques bien sûr. Pour les criminels, il serait possible d’utiliser l’IA afin de modifier des systèmes disponibles dans le commerce (véhicules ou drones) afin de causer des accidents ou des explosions. Le rapport présente des scénarii dignes de films hollywoodiens : ainsi ils imaginent qu’un robot nettoyeur corrompu infiltré dans un ministère pourrait ainsi attaquer sa cible, le ministre, quand il l’aurait reconnu visuellement.

Les risques deviennent encore plus sérieux quand la politique risque d’être affectée. « Nous avons déjà vu comment des gens se servaient de la technologie pour essayer d'interférer dans les élections et la démocratie. Si l'IA permet à ces menaces de devenir plus fortes, plus difficiles à repérer et à attribuer, cela pourrait poser de gros problèmes de stabilité politique et contribuer peut-être à déclencher des guerres », estime Seán Ó hÉigeartaigh, de l’université de Cambridge et l’un des auteurs du rapport. « Fake » news et des « fake » videos, réalistes et presque indissociables d’un contenu « légitime », pourront être crées. Les états autoritaires, eux, pourront utiliser l’IA pour décupler la surveillance des citoyens.

Avancée ou désastre ?

L’intelligence artificielle se développe de manière phénoménale. La science-fiction dépeint l’IA comme des robots aux caractéristiques presque humaines, mais l’IA englobe énormément plus de concepts, de la recherche Google jusqu’à la génération automatique de textes ou la reconnaissance biométrique.

Des personnages publics et respectés de la scène scientifique internationale comme Stephen Hawking et Elon Musk ont mis en garde « l’Humanité » sur les risques encourus si l’IA dépasse l’intelligence Humaine.

Mais les médias parlent un peu moins du potentiel offert par l’IA. La puissance de calcul de machine lié à un raisonnement pourrait engendrer des bienfaits presque illimités. Les humains sont perfectible par nature, fainéantise, ignorance, intérêts sont autant de maux qu’aucune machine ne possède. L’IA calcule froidement et produits des résultats parfaits. Le décryptage du génome, la recherche médicale et scientifique et de nombreux autres domaines pourront bénéficier de cette capacité de calcul littéralement surhumaine. Avec un accès à un savoir illimité dans le temps et dans l’espace, l’IA a un point de vue difficilement imaginable par des humains, et pourra créer des solutions auquel nous n’avions pas pensé.

Bien sûr, la machine reflétant l’homme, les IA bénéfiques verront le jour ainsi que ses homologues négatifs. La porte de l’IA est entrouverte et maintenant un dilemme nous attend, car elle risque de s’ouvrir sur la plus grande avancée de l’humanité ou son plus grand désastre.