Le capital-risque de la Silicon Valley fait exploser l’industrie de défense américaine

Les entreprises licornes vantant les applications d’IA qui « bougent vite et cassent les choses » prolifèrent dans l’espace militaro-industriel américain. Voici sans doute le plus fondamental de la situation actuelle : grâce à la financiarisation (la collecte de l’épargne digne de toutes les escroqueries) et à la mainmise sur le budget de l’Etat, la guerre que l’on nous vend à grands coups de renfort publicitaire des mêmes est en soi une escroquerie digne du régime ukrainien et son acteur bidon… il ne reste plus à ces gens-là qu’à faire le salut nazi (note et traduction de Danielle Bleitrach pour histoireetsociete)

par Elke Schwarz 20 janvier 2025

Je suis un propagandiste, je vais déformer la vérité, je ne mettrai en avant que ma version si je pense que cela va faire de la propagande pour que les gens croient ce que j’ai besoin qu’ils croient.

Il ne s’agit pas d’un extrait sonore d’un moment particulièrement exubérant de la série télévisée à succès Mad Men. Ces mots ont été prononcés par Palmer Luckey, le PDG de la start-up de technologie militaire la plus en vogue de la Silicon Valley.

L’entreprise de Luckey, Anduril Industries, est spécialisée dans les systèmes basés sur l’intelligence artificielle, y compris les systèmes d’armes autonomes. Avec une valorisation de 14 milliards de dollars, Anduril est l’un des chouchous de la scène des startups de défense et de son nouvel écosystème de capital-risque (VC) dans lequel les grandes promesses, les gros paris et une tendance à la propagande sont un élément de base nécessaire au succès.

L’intégration de l’intelligence artificielle (IA) dans les programmes de défense, sans parler des systèmes d’armes, reste controversée. Le comité britannique sur l’intelligence artificielle dans les systèmes d’armes a appelé à la prudence concernant les processus d’achat d’armes activées par l’IA, pourtant, comme c’est souvent le cas lorsqu’il s’agit de produits de la Silicon Valley, le développement, l’approvisionnement et le déploiement de programmes de défense avec l’IA se sont fortement accélérés ces dernières années.

Fondée en 2017, Anduril s’est déjà vu attribuer plusieurs contrats de plusieurs millions de dollars par le ministère américain de la Défense (DoD), ainsi que par le ministère britannique de la Défense (MoD). Dans le contexte de la guerre en cours entre la Russie et l’Ukraine, de la guerre à Gaza et de la montée des tensions mondiales, cette évolution n’est peut-être pas surprenante.

Dans mes dernières recherches sur l’IA militaire, j’ai identifié que l’un des principaux moteurs de l’acquisition accélérée de produits militaires en démarrage, tels que les drones autonomes et autres systèmes basés sur l’IA, est l’afflux d’énormes sommes d’argent et d’influence en capital-risque.

Ces sociétés de capital-risque ont besoin que les organisations de défense adoptent la philosophie de l’industrie technologique de la vitesse et de l’échelle, ainsi que l’appétit du monde du capital-risque pour le risque et la révolution. Cela fait de ces entreprises non seulement des acteurs financiers mais aussi politiques.

Mes recherches, publiées dans Finance and Society, suggèrent que cette tendance à façonner la défense à l’image de la Silicon Valley, motivée par les intérêts du capital-risque, est susceptible de s’accentuer et de se généraliser. Dans cet esprit, il vaut la peine d’examiner de plus près la dynamique en jeu lorsque le capital-risque s’intéresse à des questions de vie ou de mort.

L’émergence d’une financiarisation militaire

L’industrie de l’IA militaire et les dépenses mondiales de défense sont toutes deux en plein essor. Selon les estimations actuelles, le marché mondial de l’IA militaire valait 13,3 milliards de dollars en 2024, avec une croissance prévue à 35 milliards de dollars au cours des sept prochaines années.

Ces chiffres varient en fonction des services de données de marché consultés, mais ils ont été régulièrement révisés à la hausse au cours des 12 derniers mois. Les budgets mondiaux de la défense ont également explosé dans le contexte des conflits en cours et d’un glissement général vers la militarisation au cours des 24 derniers mois.

Les dépenses mondiales de défense ont atteint un niveau record d’un peu plus de 2 billions de dollars en 2023. Avec 877 milliards de dollars, les États-Unis représentaient près de 40 % des dépenses mondiales de défense en 2023. L’alliance de l’OTAN dépensera 1,47 billion de dollars en 2024. Il s’agit de chiffres importants et attrayants pour les grandes entreprises technologiques et financières qui ont l’intention de prendre pied sur le marché de la défense.

Pendant ce temps, les organisations de défense commencent à dépenser plus d’argent dans des technologies de pointe, y compris, inévitablement, l’IA. Un rapport du Brookings Institute de 2024 a révélé que la valeur des contrats de défense pour les technologies liées à l’IA a augmenté de près de 1 200 % au cours des 12 mois, d’août 2022 à août 2023.

Pour la plupart des nouveaux produits d’IA, civils ou autres, une certaine forme de financement par capital-risque est souvent impliquée, surtout si l’entreprise d’IA en question peut s’avérer trop risquée pour être financée par des prêts bancaires ou d’autres instruments financiers. Le capital-risque est prêt à prendre des paris sur l’innovation que d’autres bailleurs de fonds ne voudraient pas ou ne pourraient pas prendre.

Au cours des deux dernières décennies, ce type de financement s’est principalement concentré sur les produits de la Silicon Valley pour le marché civil, où la dynamique a permis de réaliser des gains extraordinaires pour les investisseurs.

Mais à mesure que le marché de la défense se développe et que les opportunités de rendements extraordinaires du capital-risque dans les sphères commerciales s’amenuisent, ceux qui disposent de grandes quantités de capitaux à investir voient une nouvelle opportunité de gains énormes dans le domaine de la défense à leur portée.

Il n’est donc pas surprenant qu’au cours des cinq dernières années, les investissements en capital-risque dans les technologies de défense aient explosé. De 2019 à 2022, le financement américain en capital-risque des startups de technologie militaire a doublé, et depuis 2021, le secteur des technologies de défense a connu une injection de 130 milliards de dollars de capital-risque.

Les dépenses en capital-risque ont également atteint un niveau record pour le secteur européen de la défense. Les investissements privés en capital-risque devraient atteindre un niveau record de 1 milliard de dollars, principalement grâce aux sociétés de capital-risque américaines. Il y a un buzz palpable dans l’air sur les possibilités d’entreprises financées par le capital-risque et la possibilité de remodeler le paysage de la défense.

Le lien entre capital-risque, armée et Silicon Valley

Le capital-risque a toujours été lié au secteur militaire d’une manière ou d’une autre. En fait, le boom actuel de l’investissement en capital-risque dans la défense pourrait être considéré comme un retour à ses débuts.

Les origines du capital-risque remontent généralement à l’American Research and Development Corporations (ARDC) fondée en 1946, juste après la Seconde Guerre mondiale, au cours de laquelle les États-Unis ont été portés par une victoire obtenue, au moins en partie, par des technologies de pointe.

ARDC a été l’une des premières entreprises à lever systématiquement des capitaux auprès d’investisseurs institutionnels pour financer des entreprises de type start-up à fort potentiel mais trop risquées pour des prêts bancaires.

Grâce à cette approche, ARDC a été la première société de capital-risque à créer des portefeuilles d’investissement qui s’appuyaient souvent sur un ou deux succès extraordinaires afin de compenser la majorité des entreprises qui ne réalisaient que des rendements très modestes ou, en fait, des pertes. De cette façon, ARDC a été la première entreprise dite « licorne ».

Les licornes sont de jeunes entreprises dont la valorisation est de 1 milliard de dollars ou plus (jusqu’à récemment, une occasion extrêmement rare pour une start-up et quelque chose que chaque investisseur convoite dans son portefeuille). C’est le cœur de l’investissement en capital-risque : il s’agit d’un capital-risque aux rendements potentiellement très élevés.

Au début, surtout juste après la Seconde Guerre mondiale, de nombreux investissements ont été consacrés au soutien des startups qui s’occuperaient de l’innovation et des technologies militaires. Cela a donné naissance à divers instruments analytiques, générateurs à haute tension, technologie de détection des radiations, ainsi qu’aux premières sociétés de mini-ordinateurs, comme la Digital Equipment Corporation.

Le paysage numérique, tel que nous le connaissons aujourd’hui, trouve ses racines dans l’armée. Les innovations dans la théorie des communications ont été conçues pour la technologie des missiles militaires dans les années 1950, les grands-pères de l’IA ont presque tous travaillé sur des projets militaires du milieu du siècle et même l’Internet lui-même a émergé d’un projet militaire, alors nommé Arpanet.

De nombreuses entreprises de la Silicon Valley sont restées empêtrées dans le secteur militaire au fil des décennies et, comme l’a écrit l’anthropologue Roberto Gonzales, presque « tous les géants de la technologie d’aujourd’hui portent un peu d’ADN de l’industrie de la défense et ont une longue histoire de coopération avec le Pentagone ». L’ADN du capital-risque est donc intégré dans cette relation.

Mais il convient de souligner que, traditionnellement, ce sont les besoins des organisations militaires et des gouvernements qui ont largement dicté le rythme, la structure et le processus des innovations technologiques.

Aujourd’hui, le rythme et l’orientation de la technologie et de l’innovation militaires sont de plus en plus dictés par une industrie des startups technologiques de plus en plus bruyante et puissante et leurs bailleurs de fonds qui ont lancé une série d’initiatives de « capital patriotique », telles que le dynamisme américain ; le Special Competitive Studies Project, le redémarrage de l’Arsenal de la démocratie et l’America’s Frontier Fund.

Ces entreprises ont été conçues par une poignée d’entreprises et d’individus éminents dans le domaine des nouvelles technologies de défense pour façonner les priorités militaires et de défense et obtenir ce faisant de bons rendements.

Soutenues par de grandes quantités de capital-risque, les licornes prolifèrent dans l’espace de la défense, y compris les nouvelles licornes de la technologie militaire comme Anduril Industries, Shield AI, Skydio, Scale AI et Palantir (Palantir n’est techniquement plus une startup depuis son entrée en bourse en 2020, mais fait toujours partie d’une cohorte de nouvelles technologies militaires).

Il s’agit d’un développement récent. Au cours des deux décennies allant du milieu des années 90 à 2014, le secteur du capital-risque a concentré ses efforts sur un paysage technologique civil florissant, où le ciel était la limite proverbiale des rendements des startups technologiques comme Google, Microsoft, Facebook et PayPal.

Le marché de la défense, en revanche, était considéré comme mature et consolidé, avec des règles et réglementations strictes en matière d’acquisitions et trop peu d’opportunités de retours sur investissement démesurés. Pour qu’un contrat gouvernemental se concrétise, il fallait souvent de nombreuses années.

La défense était également dominée par une poignée d’acteurs clés de l’industrie – les fameux donneurs d’ordre qui comprennent Lockheed Martin, RTX Corporation, Northrop Grumman, Boeing, General Dynamics et BAE Systems.

Ces donneurs d’ordre se sont partagé la part du lion sur le marché de la défense, et il semblait y avoir peu d’opportunités pour les startups technologiques de mettre un pied dans la porte sans efforts majeurs.

Par exemple, des entreprises comme SpaceX et Palantir ont poursuivi l’US Air Force et l’US Army en 2014, respectivement, pour avoir la possibilité de soumissionner pour certains contrats. L’utilisation de la loi pour ouvrir la défense des startups militaires s’est depuis généralisée.

En plus de ces obstacles structurels à l’investissement en capital-risque dans le secteur de la défense, il y avait un coût moral nominal plus élevé associé à l’idée de tirer profit de la guerre. Étant donné que les investisseurs en capital-risque sont souvent des fonds de dotation, des fondations, des compagnies d’assurance, des universités et des fonds de pension, il y avait une réticence apparente à être perçu comme investissant dans « un portefeuille de défense » – ou en d’autres termes, dans des instruments de mort. Les investisseurs européens en capital-risque se sont montrés particulièrement prudents.

Cependant, la rapidité avec laquelle cette inquiétude semble s’être apaisée, en moins d’une décennie, est remarquable, suggérant soit que les investisseurs qui soutiennent les sociétés de capital-risque viennent d’horizons différents qui pourraient avoir moins d’hésitation lorsqu’il s’agit de bénéficier du commerce de la guerre, soit que cela a toujours été principalement une question de mathématiques plutôt que de morale.

Licornes et hypercroissance

Aujourd’hui, tout le monde veut investir dans une licorne car sa valorisation a le potentiel de monter en flèche.

Mais afin de mettre un pied dans la porte avec un produit ou un concept non éprouvé, certaines startups peuvent être motivées à faire de grandes déclarations audacieuses sur la nature révolutionnaire et porteuse de changement de leurs produits. Et même une fois qu’une entreprise a obtenu un financement, la philosophie de la promesse excessive reste souvent ancrée afin de maintenir le succès vers l’hypercroissance.

Dans le pire des cas, les promesses excessives sont faites à une telle échelle qu’elles équivalent à une fraude criminelle, comme ce fut le cas avec la célèbre start-up de tests sanguins Theranos, qui est passée de l’une des startups de soins de santé les plus excitantes, évaluée à 10 milliards de dollars à son apogée en 2015, à un effondrement complet en quatre ans.

Dans le cas de Theranos, le charismatique fondateur de la société avait largement promis les capacités de la technologie, affirmant qu’elle permettrait toute une série de tests qui pourraient être effectués à partir d’une seule petite goutte de sang. Cette technologie révolutionnaire « pourrait révolutionner la médecine et sauver des vies dans le monde entier ».

Il s’agissait d’une promesse orientée vers l’avenir – la technologie ne pouvait pas encore faire ce qui avait été promis – néanmoins, l’entreprise a prétendu disposer déjà d’un appareil de test fonctionnel, ce qui s’est avéré être un mensonge. Theranos a fermé ses portes en 2018 et la fondatrice charismatique, Elizabeth Holmes, est allée en prison.

Vendre un fantasme

Il y a beaucoup d’autres histoires, moins dramatiques, qui se déroulent d’une manière similaire, bien que pas frauduleuse : des entreprises qui promettent de révolutionner la façon dont nous faisons des choses banales avec une technologie révolutionnaire, qui s’avèrent insoutenables, irréalisables ou qui s’effondrent tout simplement.

Mais le résultat est que les investisseurs perdent de l’argent et, plus important encore, que les personnes qui en sont venues à compter sur la promesse de la technologie viennent à en souffrir.

Dans le contexte de la défense, les promesses des nouvelles technologies militaires tournent autour de la vente d’une dissuasion puissante, de la protection de la démocratie, de la capacité d’avoir une connaissance complète, précise et en temps réel, d’un globe entièrement transparent et, avant tout, d’une victoire nette, rapide et décisive avec une connectivité fluide et sans effort.

Cela peut nourrir, au pire, un fantasme d’omniscience et d’omniprésence et, au mieux, attiser le désir d’une révolution impossible dans la guerre, trop attrayant pour y résister et qui finit par entraîner dans son sillage un public de plus en plus large.

Ces récits sont souvent sous-tendus par un battage médiatique général selon lequel un avenir avec l’IA est inévitable. Cela en fait un scénario puissant qui mythifie et valorise une technologie qui ne tiendra peut-être jamais ses promesses. C’est un mélange puissant qui résiste souvent aux voix plus sobres qui appellent à la prudence.

Les affirmations faites par les licornes de la défense peuvent souvent sembler plausibles, mais elles sont généralement invérifiables parce qu’elles concernent l’avenir. Et souvent, cet avenir reflète une vision façonnée par la fiction et la science-fiction, toujours très éloignée des défis sociaux et politiques de la réalité.

Cette tentation de promettre à l’excès et de mythifier une technologie possible façonne des programmes qui œuvrent à la réalisation rapide de la transparence mondiale et de la portée mondiale. Le programme JADC2 (Joint-All-Domain Command and Control) est l’un de ces efforts initiés par le Pentagone. Il vise à connecter tous les domaines – terre, air, mer, espace et cyber – en un seul réseau pour « l’analyse prédictive » et la « bataille à grande vitesse ».

Pour rendre le programme acceptable pour le Congrès, JADC2 est souvent comparé à la plate-forme de covoiturage Uber, promettant une interaction transparente entre les systèmes et les plates-formes pour des interventions rapides.

Cela recentre l’attention sur l’IA en tant que nécessité infrastructurelle pour tous les actifs et plateformes militaires. Sans l’expansion de l’IA militaire, cette vision sera impossible. C’est là que réside l’opportunité pour les startups militaires.

Deux grandes entreprises de technologie militaire sont des sous-traitants du JADC2 : Anduril et Palantir. Les deux sociétés ne cachent pas leurs ambitions de perturber le secteur de la défense, de renverser les donneurs d’ordre actuels et de se tailler une tranche de monopole du marché afin d’obtenir des gains croissants.

Palantir s’est fixé pour objectif de « devenir le système d’exploitation central pour tous les programmes de défense américains » ; Anduril a déclaré qu’elle s’attaquerait « à tout ce qui figure sur la liste [du ministère de la Défense] » afin de dominer le secteur. Pour les deux entreprises, c’est la bataille, la bataille de la croissance.

Comme le dit Luckey d’Anduril : « vous devez vous battre et gagner dans plusieurs domaines ». (Il veut dire cela en termes de stratégie d’entreprise, pas de champs de bataille réels). De même, le PDG et cofondateur de Palantir, Alex Karp, a reconnu que, afin de briser la défense en tant que marché grand ouvert, il est fier d’avoir « traîné et donné des coups de pied, cajolé et humilié » divers législateurs, décideurs politiques et gouvernements pour aider à atteindre cet objectif. Allez vite et cassez les choses.

Faire une licorne nécessite un effort concerté et une posture agressive de la part de ceux qui ont le plus à gagner financièrement dans ce domaine. Il est préférable de le faire en alliance avec d’autres personnes partageant les mêmes idées. Dans le paysage actuel du capital-risque de défense, il y a un enchevêtrement étroit de fondateurs et de bailleurs de fonds.

Peter Thiel, par exemple, est cofondateur de Palantir, il dirige également la société de capital-risque Founders Fund qui a des investissements dans Space X, Anduril et Scale AI, entre autres. La société de capital-risque Andreessen Horowitz finance également SpaceX, Anduril, Shield AI et Skydio.

Les dirigeants de ces sociétés de capital-risque entretiennent des liens de longue date. De même, il y a des entrelacs entre les entreprises. Anduril, par exemple, a été lancé par d’anciens employés de Palantir qui ont pris leur expérience de Palentir et l’ont appliquée chez Anduril. Palmer Luckey, charismatique et franc, ancien d’Oculus Rift, a été nommé son PDG.

Peter Thiel et Eric Schmidt (ancien PDG de Google et président de la Commission de sécurité nationale américaine sur l’intelligence artificielle) investissent dans l’America’s Frontier Fund, et ainsi de suite.

Il existe un réseau très soudé et très bien connecté de financiers et de startups qui s’efforcent tous de redoubler d’efforts pour faire passer le message clé : le secteur de la défense a besoin d’être perturbé et c’est nous qui faisons bouger les choses.

Lors d’un récent panel témoignant devant la Commission des forces armées américaines, il y avait des représentants de cinq jeunes entreprises militaires. Chacun des cinq a été soit financé par la société de capital-risque Andreessen Horowitz, soit affilié à la société.

Lors de l’audience de la commission des forces armées américaines, le directeur de la technologie de Palantir, Shyam Sankar, a témoigné en plaidant pour « plus de folie » et pour « laisser le chaos régner » dans le processus d’acquisition et d’approvisionnement militaire, afin que les incitations nécessaires à l’innovation puissent être encouragées par le biais de la concurrence interministérielle.

Les limites réglementaires, pense-t-il, « vous contraignent à la surveillance » et il « accepterait volontiers plus d’échecs si cela signifiait que nous avions plus de succès catastrophiques ». Le type de succès que cela pourrait être, ou les implications d’un échec, restent sans réponse, mais il est clair que le CTO de Palantir parle avec une logique de capital-risque à l’esprit.

Et, selon un récent rapport du Conseil de l’innovation de la défense des États-Unis, il semble que le gouvernement soit prêt à prendre plus de risques et à fournir une couverture de premier plan à de tels « non-conformistes ».

Le récit de la « crise »

Outre la culture de startups à fort potentiel, il existe un certain nombre de façons de faire plier le secteur de la défense aux besoins des entrepreneurs de la Silicon Valley et de leurs bailleurs de fonds de capital-risque. Là aussi, le pouvoir des récits est très important.

Les gestionnaires de capital-risque et leurs startups rédigent souvent des éditoriaux très médiatisés dans lesquels on déplore le mauvais état de la défense (américaine), où l’on insiste sur la nécessité d’accélérer l’innovation et où l’on évoque la possibilité que les États-Unis soient « très probablement » impliqués dans « une guerre sur trois fronts avec la Chine, la Russie et l’Iran ». En bref, une histoire d’urgence est racontée, ce qui permet de valoriser les entreprises qui sont perçues comme faisant face à la crise imminente.

Un deuxième pilier de la refonte structurelle de la défense consiste à employer un réseau complexe d’anciens employés du gouvernement qui servent soit de lobbyistes, soit de conseillers ayant des liens étroits avec le gouvernement.

L’ancien membre républicain du Congrès Mike Gallagher, par exemple, est devenu chef des opérations de défense de Palantir en août 2024 et l’ancien conseiller à la sécurité nationale H R McMaster est désormais conseiller principal de Shield Capital.

Il y a beaucoup d’autres moments de ce type où des experts crédibles prêtent leur autorité aux nouvelles startups. La scène des startups de technologie militaire, comme la plupart des créations de la Silicon Valley, détient un certain cachet de réputation et l’argent est également attrayant.

Anduril, ayant appris de Palantir, a embauché une multitude de lobbyistes au cours de la première semaine, dépensant plus d’argent pour « des avocats et des lobbyistes que des ingénieurs », comme l’a noté Luckey dans une récente interview avec The Economist.

Avec cela, Anduril adopte une manière relativement traditionnelle de façonner le paysage de la défense, qui est également utilisée par les entrepreneurs principaux de la défense qui ont, comme le reconnaît Anduril dans un article de blog de 2022, une incitation « à dépenser massivement pour des équipes d’avocats et de lobbyistes afin de façonner les exigences du programme en fonction de la technologie existante de l’entreprise ».

Anduril, et ses bailleurs de fonds, font maintenant exactement la même chose, adaptée à leur propre suite de technologies. Les avocats sont souvent employés non seulement pour superviser les fusions, les acquisitions et les partenariats, mais aussi comme un moyen d’utiliser le droit comme un instrument pour imposer des réformes.

L’objectif principal des poursuites intentées par SpaceX et Palantir contre l’armée et l’armée de l’air américaines, que j’ai mentionnées plus tôt, n’était pas nécessairement de gagner (le procès de Space X n’a pas abouti, celui de Palantir l’a été) mais de dégager un espace ouvert pour la refonte des acquisitions et les deux poursuites ont atteint cet objectif.

Une stratégie visant à créer un sentiment d’urgence, à redoubler d’efforts avec les lobbyistes et à créer la possibilité structurelle d’une refonte de la défense est maintenant bien engagée. Pour être clair, je ne dis pas que le secteur de la défense ne bénéficierait pas d’une modernisation ou d’une restructuration.

Je ne dis pas non plus que tous les produits de démarrage militaire sont non pertinents ou non durables. Je ne cherche pas non plus à opposer les premiers ministres à la nouvelle dynamique du capital-risque et à son accent sur la croissance.

Mais ce qui me semble mériter d’être examiné, c’est la dynamique à l’œuvre avec ces nouvelles entreprises et leurs priorités et intérêts implicites, car elles façonneront les pratiques et les priorités. Et lorsqu’il y a des perturbations au travail, il faut s’attendre à un certain niveau de casse. Et cela prend un ton différent en matière de vie et de mort.

Débris de perturbation

Le bouleversement du secteur de la défense est bien amorcé et les efforts pour le façonner à l’image de la Silicon Valley ont porté leurs fruits ces dernières années avec un certain nombre de résultats concrets. Le programme JADC2 mentionné plus haut en est un.

D’autres sont évidentes dans des programmes tels que l’initiative Replicator du ministère américain de la Défense, qui intègre les objectifs, les calendriers et les produits que les startups militaires de la Silicon Valley ont à offrir.

Les hauts responsables de la défense répètent les points de discussion de l’industrie du capital-risque, et divers programmes d’acquisition se sont ajustés pour s’adapter à la vitesse et à l’échelle nécessaires. Ces entreprises ont l’oreille des décideurs politiques et les demandes d’une « réforme de la défense » quasi spirituelle trouvent un public croissant.

Quelles sont donc les conséquences possibles ?

Lorsque Uber a perturbé l’industrie du transport privé, il a laissé dans son sillage une série de lois du travail érodées, de droits des travailleurs et de dispositions en matière de soins de santé pour les chauffeurs. Lorsque AirBnB a secoué le secteur de l’hébergement, cela a entraîné une augmentation des prix de location dans les destinations touristiques populaires. Lorsque vous essayez de créer un monopole, il y a toujours des conséquences sociales et politiques. Souvent, ces conséquences sont prévisibles, parfois elles ne le sont pas.

Perturber le processus d’acquisition de la défense se fait, à tout le moins, au détriment d’une plus grande surveillance du processus d’acquisition. Le secteur de la technologie n’est pas connu pour son appréciation des frontières réglementaires. Bien au contraire. Certains des bailleurs de fonds les plus en vue du nouveau paysage des startups militaires sont les plus farouchement opposés à tout type de réglementation.

Le poids lourd du capital-risque, Marc Andreessen, par exemple, a rédigé un manifeste techno-optimiste dans lequel il désigne la gestion des risques, la confiance et les mesures de sécurité ainsi que les principes de précaution comme « l’ennemi ».

Moins de réglementation signifie moins de surveillance et de responsabilité, non seulement en ce qui concerne les dépenses, mais aussi la façon dont certaines technologies sont utilisées, l’endroit où elles sont utilisées et les effets obtenus. C’est évident.

Mais il y a beaucoup d’autres conséquences très plausibles que nous pourrions prévoir avec l’acquisition et le déploiement accélérés de technologies militaires pour la bataille. L’une d’entre elles est le recentrage sur le risque et l’expérimentation.

Les technologies militaires actuelles, comme les drones et les systèmes d’aide à la décision basés sur l’IA, sont testées et améliorées en direct et pendant les conflits en cours, comme dans la guerre entre la Russie et l’Ukraine, mais aussi à Gaza. Il s’agit d’une forme de prototypage qui prend de plus en plus d’importance et qui nécessite un champ de bataille actif pour des tests, une itération et une optimisation efficaces des technologies.

Cela signifie également qu’il est possible que des technologies ne soient pas adaptées à l’usage prévu, uniquement pour les tester et les améliorer au fur et à mesure. Il normalise, sinon promeut, le lancement et la vente de produits d’IA défectueux et peut-être inadéquats, qui causeront inévitablement des dommages à des civils innocents pris dans la ligne de mire des conflits.

Nous pouvons l’observer en ce moment avec la pression des entreprises technologiques pour vendre leurs grands modèles de langage aux organisations militaires. Scale AI, par exemple, s’est associé à Meta pour vendre un produit LLM, Defense Llama, à des fins de défense. L’entreprise affirme que l’implication humaine est « absolument nécessaire » pour le système.

Mais étant donné le fait bien connu que les LLM sont sujets à ce que l’on appelle des hallucinations, les chances que ces technologies fonctionnent exactement comme annoncé sont minces pour un contexte aussi complexe et dynamique que la guerre. Cela pourrait causer du tort à ceux qui sont pris au milieu de cette expérimentation, de cette mise au point et de ces tests en direct.

Il est très préoccupant que la technologie ne soit pas adaptée aux imprévus, aux éléments moins calculables ou moins prévisibles de la guerre. Cela inclut les menaces terroristes émergentes potentielles ou les actions d’États souvent considérés comme irrationnels, comme la Corée du Nord, par exemple.

Le PDG d’Anduril, Luckey, l’a admis dans l’interview que j’ai commencée. Il a reconnu que la logique sur laquelle ses armes sont construites s’effondre avec des ennemis potentiels qui évitent l’approche théorique du jeu sur laquelle repose une grande partie de la logique de défense de l’IA :

« Il est très difficile de s’engager dans la théorie des jeux avec des gens qui poursuivent la stratégie optimale non liée à la théorie des jeux… C’est comme jouer au monopoly avec une personne qui va abandonner et donner tout son argent à quelqu’un d’autre ».

Une sérieuse limitation pour quelque chose d’aussi truffé de hasard que la guerre. Il y a aussi des effets de deuxième et de troisième ordre qui émanent de ce glissement vers la logique du capital-risque.

En évoquant une menace imminente, le paysage mondial des risques et de la sécurité peut changer. En donnant la priorité aux technologies d’armement, en réduisant le financement d’autres moyens de résoudre les conflits, en consacrant de plus en plus d’argent à des technologies qui n’ont pas encore été testées et qui n’ont peut-être pas de permanence, des sommes importantes d’argent qui seraient mieux allouées ailleurs pourraient être gaspillées.

Mais nous sommes dans un pays de faux-semblants et de licornes, où de telles considérations sont aussi spéculatives que les promesses très médiatisées d’armes d’IA en tant que défenseurs de la démocratie.

Dans la Silicon Valley, la devise « aller vite et casser les choses » implique que les problèmes qui se posent lors du déploiement de la technologie peuvent toujours être abordés et résolus plus tard. Dans le monde de la défense et de la guerre, les dommages produits par ce type de prise de risque ne peuvent pas être si facilement réparés.

Elke Schwarz est maître de conférences en théorie politique à l’Université Queen Mary de Londres

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l’article original.