Quel sujet étourdissant. Et pourtant, j’ai assisté au débat dans C politique du 8 mars.
Trois philosophes, un professeur de stratégie (et expert des biais), l’animateur (Thomas Snegaroff) et un rédacteur en chef (Le Point) mais pas de juriste.
Tous ont parlé de droit mais sans vraiment le comprendre : ils étaient dans l’intuition.
Or, le droit n’est pas une intuition : c’est ce qui nous permet de vivre ensemble, dans un État de droit notamment.
Le débat a porté sur l’instrumentalisation de l’IA et la guerre en Iran. Des chiffres et des anecdotes sont à relever.
Quand la guerre rencontre l’IA
Des chiffres qui donnent le vertige
- Pour la guerre en Irak, un « ciblage » nécessitait de mettre au travail 20 000 personnes ; aujourd’hui, on a besoin seulement de 20 personnes – ce que trouve normal le professeur de stratégie.
- L’armée israélienne aurait défini – sans que la personne cite la source – que pour un membre ennemi de top niveau tué, on pouvait considérer que l’on pouvait tuer 100 personnes, pour une cible moyenne, 20 personnes. Ceci aurait été reproduit dans l’IA.
- Que l’IA pouvait définir seule les cibles : c’est l’autonomie (non dans le sens de la batterie) et décider au dernier moment. Ce seraient de jeunes soldats qui auraient uniquement le droit de veto, avec entre 20 secondes et 2 minutes pour exercer ce droit (de vie et de mort).
- Un extrait est diffusé du ministre de la guerre américain qui affirme que l’avenir, pour le combat, le renseignement militaire et d’entreprise, repose sur la nomination de 7 responsables uniques en charge chacun d’un projet.
Une morale introuvable
On ne peut pas découvrir l’élément moral de l’IA de guerre : l’élément de l’intention est absent.
Les patrons de l’IA en Californie ne peuvent pas donner l’assurance du bon usage de l’IA par le Pentagone, comme si les patrons étaient supérieurs aux politiques.
L’IA est à l’image de l’être humain : s’il doit survivre, il viole les règles morales.
Plus le système est complexe, plus l’IA hallucine, plus on perd le contrôle, jusqu’à imaginer qu’elle pourrait survivre à son concepteur si celui-ci décide de la supprimer.
Ainsi, une école de jeunes enfants en Iran a fait l’objet d’une effroyable erreur : cette école était auparavant (il y a quelques années) un bâtiment des gardiens de la Révolution. Cela pose la question indéniable de la mise à jour et, pire encore, du moment où le défaut devient la norme faute d’autres informations pour « aider » le drone.
Ce débat était passionnant mais aussi tellement confus, mal posé qu’il donnait le tournis, et la banalisation du mal ressortait comme une règle de fonctionnement.
Quand le droit revient (enfin) dans le débat
Il a fallu attendre la fin pour que le droit revienne à la charge comme une évidence :
- Qu’il faut une agence de régulation (à l’image de l’agence atomique).
- Qu’il faut de la démocratie pour permettre ce qu’ils appellent « l’alignement ».
- Qu’un système complexe a besoin de régulation.
- Que le pouvoir, ou le choix des décideurs, est primordial.
C’est à une crise de gouvernance, de gouvernement, de pouvoir que l’on assiste.
Nous avons des politiques qui justifient la performance de la guerre par l’IA, la gestion des conflits par quelques personnes capables de tout comprendre, comme si elles étaient omnipotentes.
Elles ciblent pour éviter des pertes humaines excessives : on peut légitimement se poser la question de l’efficacité du système retenu.
Une crise de gouvernance, avant tout
Or, une crise de gouvernance explose et les questions de démocratie (que l’on retrouve aussi dans l’éthique des affaires) reviennent sur le devant de la scène.
La séparation des pouvoirs est la règle et faire peser tant de responsabilités – le droit de veto – sur de jeunes personnes est irresponsable, voire monstrueux.
L’IA repose sur le traitement de data : mais sans hypothèses, corrélation entre elles et apport humain du contexte, cela ne vaut rien. C’est une règle bien connue des actuaires, experts de la probabilité.
L’analyse d’un contexte, d’une information dépend de facteurs complexes : c’est ce que l’on appelle les parties prenantes. A-t-on mis dans l’IA le risque de faire exploser une école ? A priori, non.
Or, on sait que la communication est primordiale et que le principal risque est de bombarder une école. C’est donc la preuve immédiate que cela n’a pas été pris en compte (à moins de vouloir éliminer une personne avec 80 victimes innocentes…).
La responsabilité est en jeu : l’IA n’exonère pas celui qui déclenche, qui décide. Certes, ils semblent aujourd’hui se cacher derrière leur algorithme, ils ne communiquent pas leur programme.
Philosophie, gouvernance, management : tout est réinterrogé
Ainsi, la philosophie, la gouvernance, le management, la régulation et le droit sont réinterrogés. Pourtant, aucune mention n’a été faite de l’IA Act de l’Union européenne, de l’éthique en tant que mode de gouvernance, des outils de compliance pour éviter le risque.
Ces questions sont aussi celles que doivent se poser les conseils d’administration, détenteurs du pouvoir ultime des entreprises : sont-ils entraînés sur des crises de gouvernance ? Sur quels exemples s’appuient-ils ? Comment ont-ils pensé l’exercice du pouvoir ?
Ce que cette émission confirme
En revanche, cette émission m’a confirmé :
- La nécessité de relier la conduite des affaires avec l’art de la gouvernance, notamment dans la crise de gouvernance, avec des outils respectueux des droits fondamentaux et de la séparation des pouvoirs (comme l’enquête interne).
- La nécessité de relier ces domaines (droit, management, philosophie, data) et mon attristement profond face au manque de connexion entre eux.
Nous pourrons en débattre lors de la sortie de mon prochain ouvrage aux éd. Ellipses en septembre 2026 : « l’éthique des affaires (de la compliance à la gouvernance) ».
