Histoire et société > Si on vous le dit

La machine de guerre américaine dotée d'intelligence artificielle ne connaît aucune limite humaine.

un article qui n'est pas à proprement parler de notre "bord" mais qui est effrayant et qui illustre un thème qui est fondamental, la relation aux forces productives d'un impérialisme sur le déclin et qui n'a plus que la mort comme perspective ce qui caractérise la fin d'un mode de production. La définition que nous donnerions volontiers au socialisme est la vie. La manière dont le fascisme copie le socialisme tente alors de se faire passer pour le même est tout aussi fascinante et constitue un objet d'étude pour notre blog. La « guerre de précision » menée par l'IA dissimule un choix politique : accélérer le déploiement de la force sans moyen concret de l'arrêter, de l'inspecter ou d'en répondre en cas d'échec.

Lorsque le Pentagone a fait du système intelligent Maven de Palantir un « programme officiel » en mars, il a fait plus qu'approuver un logiciel.

Elle confère un statut permanent à une plateforme qui analyse les données provenant de satellites, de drones, de radars, de capteurs et de rapports de renseignement afin d'identifier les cibles potentielles. Maven a soutenu la quasi-totalité des 13 500 frappes américaines en Iran . Cette désignation vise à garantir son financement et à étendre son utilisation au sein des forces armées.

Cette décision est intervenue alors que les États-Unis enquêtaient encore sur la frappe du 28 février contre l'école de filles Shajareh Tayyebeh à Minab, en Iran. Une première enquête militaire américaine a conclu à la probable responsabilité des forces américaines, mais le Pentagone n'a pas encore publié de conclusions définitives.

Les autorités iraniennes ont fait état de 155 à plus de 175 décès, principalement des étudiants et des enseignants. On peut se demander pourquoi un système militaire conçu pour passer rapidement de l'information à l'action n'impose pas à la population l'obligation tout aussi claire de ralentir le rythme après des dommages civils graves.

En génie logiciel, un « budget d'erreur » vise à protéger les utilisateurs. Lorsqu'un service dépasse un seuil de défaillance convenu, les nouvelles versions sont suspendues jusqu'à ce que le problème soit identifié et résolu. La guerre n'est évidemment pas un logiciel.

Mais dans les opérations menées par Washington avec l'aide de l'IA, les décès de civils n'entraînent pas automatiquement la suspension temporaire des outils concernés, un examen indépendant des données ou une explication publique des décisions ayant conduit à la frappe.

Les partisans de l'IA militaire affirment que des données de meilleure qualité et une analyse plus rapide permettent d'accroître la précision des attaques. En théorie, c'est possible. Mais la précision n'est pas une qualité intrinsèque d'un logiciel. Elle dépend de la qualité et de l'ancienneté des données, de ce que le système considère comme suspect et de la possibilité pour les humains de contester ses résultats.

L'IA ne transforme pas les informations obsolètes ou biaisées en vérités. Elle peut simplement accélérer la diffusion de fausses informations.

Human Rights Watch a averti que les outils numériques israéliens utilisés à Gaza reposaient sur des données incomplètes et des estimations inexactes, ce qui pouvait accroître le risque de dommages pour les civils. La leçon à tirer n'est pas que toute utilisation de l'IA est illégale, mais plutôt que la rapidité d'exécution peut amplifier les conséquences d'une mauvaise conception avant même que quiconque ne s'en aperçoive.

L'assurance, pourtant bien connue, qu'« un humain reste impliqué » ne résout pas ce problème. Une personne qui ne voit qu'une recommandation finale, qui ne peut pas examiner l'historique des données et qui dispose de quelques secondes plutôt que de plusieurs heures pour décider, n'exerce pas un véritable jugement indépendant.

L'IA peut moduler la force létale sans appuyer sur la gâchette. Elle peut déterminer ce qui paraît urgent, quelles personnes ou quels lieux doivent être prioritaires, et quels faits ne seront jamais mentionnés.

La campagne contre l'Iran rend cette préoccupation immédiate. Les systèmes Maven et Claude d'Anthropic ont été utilisés pour traiter des renseignements classifiés, suggérer des coordonnées, hiérarchiser les cibles et transformer une planification qui prenait autrefois des semaines en opérations en temps réel. Cela ne prouve pas pour autant que l'IA a choisi chaque cible de manière indépendante ni que chaque frappe menée avec son concours était illégale.

Reuters a rapporté par la suite que Palantir était chargé de retirer la technologie anthropique de Maven. Mais le problème de fond demeure : le Pentagone institutionnalise des systèmes conçus pour réduire au minimum le temps de réflexion humaine avant le recours à la force.

La tragédie de Minab illustre le coût humain de l'obsession de la rapidité. L'établissement disposait d'un site web public , publiait des photos d'élèves et était visible sur les images satellites. Il a également été signalé que les responsables du ciblage semblaient avoir utilisé des renseignements obsolètes.

Le rôle exact de l'IA dans la frappe n'a pas été divulgué. Apparemment, les informations n'ont pas permis de distinguer suffisamment clairement l'école du complexe militaire adjacent, et le Pentagone n'a pas expliqué publiquement comment cette erreur s'est répercutée dans le processus de ciblage. Il s'agit d'un problème de responsabilité, et non d'un simple problème technique.

Le Congrès devrait instaurer une règle interdisant le ciblage assisté par IA en cas de préjudice civil. Des preuves crédibles de dommages graves causés aux civils devraient entraîner la suspension temporaire du système concerné pour des missions comparables, un examen indépendant des données et du processus d'approbation, ainsi qu'une explication publique du rôle du système.

Cela ne reviendrait pas à considérer chaque victime civile comme la preuve d'un crime ni à interdire toute utilisation militaire de l'IA. Cela signifierait que les familles n'auraient plus à attendre des mois, dans le secret, pour savoir si une base de données, un sous-traitant ou une décision du commandement a contribué à transformer un site civil en cible.

Le Congrès a commencé à envisager des garde-fous plus larges. Le projet de loi de défense pour l'exercice 2027, examiné par la commission des forces armées de la Chambre des représentants, enjoindrait le Pentagone à étendre sa politique en matière d'intelligence artificielle aux systèmes qui soutiennent ou influencent de manière significative la planification opérationnelle, le développement des cibles, la sélection des armements et les recommandations d'engagement.

C'est un début . Mais ce n'est pas une règle d'arrêt automatique pour les civils. Elle ne suspend pas automatiquement un système après un incident dévastateur et ne garantit pas de réponse publique.

Une telle règle renforcerait le droit de la guerre. Le droit international humanitaire coutumier exige des forces armées qu'elles prennent toutes les précautions possibles pour vérifier leurs cibles et réduire les dommages prévisibles aux civils. Il leur impose également d' annuler ou de suspendre les attaques lorsqu'il apparaît clairement qu'une cible n'est pas militaire ou qu'une attaque serait illégale.

La Croix-Rouge recommande des analyses a posteriori et des tests supplémentaires, voire la suspension des systèmes d'IA, en cas de problèmes de fiabilité, de sécurité ou de conformité légale. Des travaux de recherche récents vont dans le même sens.

Renato Wolf insiste sur la nécessité de faire preuve de prudence tout au long du processus de vérification des cibles assistée par l'IA, tandis que Jessica Dorsey met en garde contre le risque qu'une dépendance excessive aux systèmes informatiques nuise au jugement humain indispensable à la protection des civils. Si un processus reposant sur l'IA complexifie la vérification en privilégiant la rapidité, il constitue un manquement à une obligation légale.

Palantir peut affirmer fournir la plateforme. Le Pentagone peut se contenter de dire que le logiciel ne fait qu'aider à la prise de décision. Un opérateur peut déclarer que les données étaient déjà classées à leur arrivée.

Mais les personnes en deuil devant une école détruite restent sans réponse claire quant aux responsabilités. Tant que Washington n'aura pas établi de règle publique d'arrêt des opérations civiles, la « guerre de précision » restera une expression technique masquant un choix politique : celui d'intensifier la force sans moyen efficace de l'arrêter, de l'inspecter et d'en répondre.

Brian Hudson est un analyste politique et un journaliste indépendant.

Cet article a initialement paru sur Foreign Policy in Focus et est republié sous licence Creative Commons.