L’IA ET LA GUERRE - Par Mustapha Sehimi

De Gaza à l’Ukraine, de l’Irak au Venezuela, l’intelligence artificielle s’impose désormais comme un outil majeur de la conduite des opérations militaires, accélérant le renseignement, le ciblage et la prise de décision tout en renforçant l’autonomie des systèmes d’armes. Alors que les risques d’erreurs, de pertes civiles et de déresponsabilisation se multiplient, Mustapha Sehimi insiste s, mais reste sceptique, sur l’instauration d’un cadre juridique international apparaît de plus en plus urgente.

Par Mustapha Sehimi

Professeur de droit (UMV Rabat), Politologue

Que ce soit en Irak, à Gaza, en Ukraine ou au Venezuela, les récents conflits armés ont tous été marqués par un usage massif des technologies d'intelligence artificielle (IA). Si, par crainte des éventuelles réactions publiques, cette utilisation a d'abord été cachée ou timidement avouée (à Gaza ou en Ukraine par exemple), le tabou est vite tombé. L'emploi de l'IA est même devenu un argument de communication technologique et militaire. Naturellement, ces démonstrations s'accompagnent souvent d'un précieux rappel selon lequel l'humain reste responsable des actions militaires et sera toujours celui qui prend la décision finale relative à l'emploi de la force. Mais il reste les usages croissants de l'IA. Ils conduisent à s'interroger sur une possible transformation de la guerre comme elle a pu en connaître avec la poudre à canon, l'aviation ou le nucléaire. En outre, les œuvres de science-fiction foisonnantes sur le sujet, associées aux récents progrès en matière d'autonomisation, peuvent faire craindre l'avènement d'une guerre pilotée par l'IA.

Observer, orienter, décider, agir

Qu'en est-il vraiment ? L'IA connaît bien la guerre, qui en est en quelque sorte le berceau. C'est en effet dans le contexte de la Seconde Guerre mondiale que des recherches intensives américaines ont débouché sur de grandes avancées en informatique et en robotique, posant ainsi les bases scientifiques de l'IA. Cette technologie n'a depuis lors cessé de se développer en gardant un lien étroit avec le monde militaire. Sans surprise, lorsque le domaine de l'IA a connu un nouvel essor au début des années 2010, les armées ont largement bénéficié de ces avancées. Si l'IA est employée dans le domaine militaire pour une multitude de tâches logistiques, ce sont avant tout ses usages liés à la conduite des hostilités qui interrogent. Les systèmes d'IA sont d'abord utilisés comme des outils d'aide à la décision et d'optimisation des capacités. Ainsi, en matière de renseignement, ils permettent de traiter des volumes massifs de données, de détecter des schémas comportementaux, d'identifier des cibles et, globalement, d'accélérer le cycle de décision militaire dit «OODA» (observer, orienter, décider, agir). À Gaza, le système Lavender, une IA de ciblage développée par l'armée israélienne, a permis d'établir des listes de cibles potentielles à une vitesse et à une échelle sans précédent. Plus encore, l'IA est utilisée de façon croissante dans les systèmes d'armes qui deviennent de plus en plus autonomes. Ces usages impliquent une accélération des opérations et une distanciation grandissante de l'humain qui pourraient conduire à une inquiétante perte de contrôle sur la guerre.

Les impératifs militaires inhérents aux conflits incitent les forces armées à utiliser les moyens les plus efficaces pour mener les opérations. Or, si les systèmes d'IA offrent des avantages indéniables, ils s'accompagnent de risques et d'enjeux qui menacent la place de l'humain dans la guerre. C'est d'abord la perte de l'autonomie humaine au contact de l'IA qui traduit ce glissement. Comme par un effet de balancier, le gain en autonomie des machines semble induire une perte d'autonomie chez l'opérateur militaire. La rapidité d'analyse et de prise de décision que permettent les systèmes d'IA conduit à une accélération des opérations, souvent présentée comme un avantage sur l'adversaire. Toutefois, cette compression du temps peut altérer profondément la qualité de la décision. À cette contrainte temporelle s'ajoutent les biais cognitifs que l'opérateur peut développer à l'égard des recommandations des systèmes d'IA, tels qu'une confiance excessive dans leurs suggestions, une surcharge cognitive liée à l'alternance entre longues périodes de supervision passive ou une distanciation morale entre l'opérateur, la machine et les conséquences concrètes des décisions sur le terrain. En somme, l'opérateur militaire peut se retrouver dessaisi, soit parce qu'il n'a pas le temps de formuler sa propre décision, soit parce qu'il n'en a plus les moyens, faute d'esprit critique.

Sur un autre plan, les limites techniques des systèmes d'IA peuvent elles aussi altérer la décision militaire. Comme tout système, ils peuvent dysfonctionner ou produire des résultats erronés, notamment lorsque les données sur lesquelles ils s'appuient sont insuffisantes en quantité ou en qualité, ce qui est particulièrement fréquent dans les environnements militaires dégradés. Des attaques cyber peuvent en outre cibler les données ou le système lui-même. Il faut aussi souligner le manque de transparence de ces systèmes, qui génèrent des résultats sans qu'il soit toujours possible d'en expliquer la logique, ce qu'on désigne par le terme «effet boîte noire ». L'ensemble de ces limites peut favoriser des erreurs d'appréciation et aboutir à des pertes civiles accrues. Ainsi, dans le cadre d'une frappe américaine en Iran, une erreur de renseignement, attribuée en partie à un mauvais usage d'un système d'IA, aurait conduit à cibler un bâtiment anciennement militaire reconverti en école, causant la mort de plus de 150 civils, dont une majorité d'enfants.

L’urgence d'un cadre

L'emploi débridé de l'IA militaire n'est pas inéluctable. Il serait vain de penser que les États renonceront à une ressource aussi stratégique. Cependant, un usage encadré de cette technologie n'est pas impensable. Cela répondrait à l'ambition du droit international humanitaire qui régit la conduite des belligérants et cherche à accomplir le difficile paradoxe d'une humanisation de la guerre. Alors que I'IA tend justement à déshumaniser le processus guerrier, aussi bien pour ceux qui le mettent en œuvre que pour ceux qui le subissent, ce droit constitue une ressource précieuse.

Il reste que les discussions diplomatiques stagnent. Depuis dix ans, les États débattent du sort des systèmes d'armes létaux autonomes sans qu'aucun traité semble en bonne voie. La pression monte toutefois face aux appels de l'ONU et de la société civile qui réclament un instrument juridiquement contraignant. Les récents accidents liés à des usages mal maîtrisés de l'IA militaire alimentent l'urgence d'un cadre précis. Dans un contexte de crise du multilatéralisme et de puissances désinhibées, il n'est cependant pas certain qu'une obligation juridique de contrôle humain sur la guerre soit bientôt énoncée. Le risque est donc de voir la guerre évoluer dans le sens contraire de l'histoire et vers une possible forme de pilotage croissant par l'IA.