L’IA ne nous sauvera pas, mais la cybernétique pourrait y parvenir

L’IA peut aider à naviguer, mais la cybernétique est nécessaire pour énoncer les intentions, allouer des ressources et déterminer notre destination, un article qui face à l’effondrement de l’empire américain s’interroge sur ce qui peut aider l’humanité à affronter ce moment périlleux. La Chine est prête à prendre la tête de la nouvelle révolution industrielle qui est la fusion des technologies numériques, biologiques et physiques et le déploiement à grande échelle de l’IA, de la robotique, de la nanotechnologie, de la biotechnologie et de l’Internet des objets (IoT). En tant qu’usine du monde, la Chine fabrique presque tout le matériel nécessaire à l’industrie 4.0 et dispose de l’infrastructure requise. Elle le peut parce qu’elle a choisi la planification à l’inverse des Etats-Unis. Loin de voir une compétition, l’auteur de l’article propose que les pays occidentaux se réforment pour entrer dans le mouvement, s’y opposer ne peut que conduire à la catastrophe pour l’ensemble de l’humanité. Un texte qui a l’immense mérite à la fois de penser en terme de coopération anthropologique et qui nous montre aussi la folie de notre landerneau politico-médiatique. (note et traduction de Danielle Bleitrach histoireetsociete)

Par JAN KRIKKE11 MAI 2024

L’économiste chinois populaire Lu Qiyuan a récemment affirmé que les États-Unis avaient quatre ans pour éviter une crise politique, sociale et financière majeure. Et pour y parvenir, ils doivent faire au moins une des trois choses suivantes : mettre en œuvre une réforme politique structurelle ; empêcher le dollar de perdre son rôle de monnaie de réserve mondiale ; ou créer une nouvelle vague de croissance économique tirée par l’intelligence artificielle (IA).

Si Lu Qiyuan a raison, les États-Unis sont confrontés à une tâche herculéenne. Une réforme structurelle du système politique américain se heurterait à une forte opposition de la part des géants américains des affaires et de la finance, principaux bénéficiaires et sponsors du système politique actuel. Ils contrôlent fermement les médias nationaux et sont installés dans la bureaucratie nationale.

Préserver le rôle du dollar en tant que monnaie de réserve mondiale sera également une bataille difficile, d’autant plus après que l’Occident a banni la Russie du système financier mondial. L’instrumentalisation extrajudiciaire du système du dollar a effrayé le reste du monde et a eu l’effet inverse de celui escompté. La dédollarisation est devenue un mot à la mode dans le monde entier.

La troisième option, une augmentation exponentielle de la productivité grâce à l’IA, se heurte également à des obstacles majeurs. Le monde est dans une transition générationnelle de la troisième à la quatrième révolution industrielle. Les États-Unis ont lancé la troisième révolution industrielle – la révolution des TIC et de l’Internet – mais la Chine est prête à diriger la quatrième révolution industrielle.

L’industrie 4.0 est la fusion des technologies numériques, biologiques et physiques et le déploiement à grande échelle de l’IA, de la robotique, de la nanotechnologie, de la biotechnologie et de l’Internet des objets (IoT). En tant qu’usine du monde, la Chine fabrique presque tout le matériel nécessaire à l’industrie 4.0 et dispose de l’infrastructure requise.

Aura mystique, sentiments ambivalents

L’IA a toujours une aura mystique. Le grand public, en particulier en Occident, a des sentiments ambivalents à l’égard de l’IA. Beaucoup craignent que l’IA n’entraîne une perte de vie privée. D’autres pensent que l’IA sera monopolisée par une poignée d’entreprises technologiques, tandis que les experts ont fait valoir que l’IA pourrait dépasser l’intelligence humaine et constituer un danger existentiel pour l’humanité.

Les préoccupations les plus extrêmes concernant l’IA peuvent être attribuées à la science-fiction (cyberfiction). Certaines cyberfictions dépeignent l’IA comme un cerveau mondial qui a un esprit de ses mauvaises intentions : conquérir le monde, asservir l’humanité ou, pire, éliminer les humains. Il n’est jamais clair quelle entreprise, quel pays ou quelle autre entité construirait ou pourrait construire un système d’IA capable de conquérir le monde.

De plus, les alarmistes de l’IA ont tendance à négliger le fait que les systèmes d’IA fonctionnent dans des domaines clairement définis. Ils sont conçus pour effectuer des tâches spécifiques dans un domaine spécifique. Un système d’IA conçu pour un véhicule autonome ne peut pas analyser les radiographies médicales ou jouer aux échecs. Aucun constructeur automobile ne construirait une voiture autonome avec son propre esprit.

L’IA n’est pas seulement spécifique à un domaine, elle est également spécifique à une culture. Lorsque nous demandons aux grands modèles de langage (LLM) comme ChatGPT et son homologue chinois ERNIE de répertorier les philosophes les plus importants de l’histoire, ou quel est le meilleur système économique pour le 21e siècle, nous obtenons deux réponses très différentes. Tout LLM reflétera la vision du monde de ses créateurs.

L’IA semble moins compliquée lorsqu’elle est considérée comme un sous-ensemble de la cybernétique, la première théorie complète de l’informatique binaire développée dans les années 1940. Il s’agit techniquement d’une forme de cybernétique avec un algorithme d’auto-apprentissage et aurait pu être appelée Cybernétique 2.

La première génération d’ordinateurs était des machines analogiques. Ils ont effectué des calculs en utilisant des variations de courant électrique continu plutôt que des valeurs binaires discrètes. Les améliorations de la technologie des circuits dans les années 1940 ont rendu l’informatique binaire possible, et la plupart des informaticiens ont convenu que les systèmes binaires étaient plus stables et plus faciles à programmer.

Dans les années 1940, le scientifique américain Norbert Wiener a développé un cadre théorique pour l’informatique binaire, qu’il a appelé Cybernétique. Wiener a montré que les ordinateurs binaires sont idéaux pour le contrôle ou la régulation de systèmes complexes en utilisant des choix binaires (oui ou non) et une logique booléenne (SI/ALORS/ET/OU, etc.).

Un exemple classique de système cybernétique est le pilote automatique utilisé dans les avions de ligne. À l’aide d’opérateurs booléens, le pilote automatique guide l’avion d’un point A à un point B dans les paramètres définis par le navigateur. Si l’avion rencontre de forts vents latéraux, le pilote automatique amorce une correction de trajectoire. S’il rencontre de forts vents contraires, il peut faire tourner les moteurs pour respecter l’horaire.

La théorie cybernétique a joué un rôle crucial dans le développement de l’automatisation et d’autres technologies de production après la Seconde Guerre mondiale. Elle a permis aux ingénieurs de modéliser des systèmes complexes, de prédire leur comportement et de développer des stratégies de contrôle pour l’efficacité et la fiabilité. La cybernétique a également fourni le cadre théorique de la robotique moderne.

Dans les années 1950, les sciences humaines ont adopté la cybernétique. Entre autres, elle a été utilisée pour étudier les systèmes sociaux, les organisations et les processus de gestion. La cybernétique fournit des outils pour les processus de prise de décision, le comportement organisationnel, la science de la gestion et la pensée systémique.

La méthode cybernétique repose sur trois étapes : planifier, quantifier et piloter. Le plan définit l’objectif ou la destination ; la quantification détermine les ressources nécessaires ; et la direction, à l’aide d’un mécanisme de rétroaction, guide le système vers sa destination. La méthode peut être appliquée à n’importe quel système, qu’il s’agisse d’un pilote automatique, d’une usine ou d’un pays entier.

Norbert Wiener a appelé cette nouvelle science cybernétique pour exprimer sa fonction de base : le pilotage. Le mot cybernétique dérive du grec kybernētēs, qui signifie « je dirige, je conduis, je guide, j’agis comme un pilote ».

Platon a utilisé le mot pour désigner le capitaine d’un navire. (Le gouvernail d’un navire a été la première utilisation humaine d’un mécanisme de rétroaction causale.) Le latin corruption, gubernātor, est la racine du mot moderne gouvernement ou gouverner.

La cybernétique s’est également étendue aux domaines social, politique et économique. Les plans quinquennaux et décennaux utilisés dans les pays socialistes après la Seconde Guerre mondiale étaient fondés sur des principes cybernétiques. Ils ont rencontré un succès mitigé, mais la Chine a continué à planifier à long terme même après sa libéralisation du marché dans les années 1970.

Le premier plan quinquennal de Deng Xiaoping appelait à jeter les bases de l’industrialisation, du développement des infrastructures et de la modernisation agricole. L’objectif était de transformer la Chine d’une économie agraire en un pays industrialisé.

Le plan quinquennal actuel sous Xi Jinping a également fixé des objectifs clairs. Entre autres, il appelle à « une société dans laquelle personne n’est pauvre et où tout le monde reçoit une éducation, un emploi rémunéré, plus qu’assez de nourriture et de vêtements, un accès aux services médicaux, un soutien aux personnes âgées, un logement et une vie confortable ».

Pour la Chine, la planification est un impératif. Le pays est confronté à un grave déclin démographique. Une population de jeunes en baisse devra fournir des soins physiques et financiers à une population croissante de personnes âgées. La technologie de l’industrie 4.0 devra venir à la rescousse.

La cybernétique est une science interdisciplinaire. Elle offre un cadre pour tous les aspects du développement humain – social, écologique, politique et technologique, voire psychologique et philosophique. De plus, la cybernétique est neutre, apolitique, universelle et basée sur une logique binaire.

La seule chose dont la cybernétique a besoin est un plan. Sans plan, comme le soulignait Platon, la société est comme un navire en mer sans destination, sans capitaine ni gouvernail. La cybernétique exige que nous exprimions nos intentions, que nous allouions les ressources nécessaires et que nous choisissions des navigateurs fiables.

La primauté d’un plan explique la différence fondamentale entre la cybernétique et l’IA. Dans le cadre de la cybernétique, l’IA est « simplement » un outil dans un contexte plus large. Elle peut nous aider à naviguer plus efficacement vers notre destination, mais ne peut pas faire de plan. Seuls les humains peuvent élaborer un plan et développer un consensus sur la destination.

L’économiste chinois Lu, dans ses conseils au gouvernement américain, affirme que les États-Unis ont besoin d’un plan de toute urgence. Le pays a échangé des places avec la Chine au cours des 40 dernières années. La Chine s’est industrialisée ; les États-Unis se sont désindustrialisés. Des millions de Chinois ont rejoint la classe moyenne tandis que des millions d’Américains ont quitté la classe moyenne. La Chine avait un plan ; les États-Unis sont allés à l’aveuglette .

Le sort des États-Unis est désormais une préoccupation mondiale. Parce qu’ils ne se préoccupent pas de leur dette, les États-Unis font face à une spirale financière mortelle. Les paiements d’intérêts sur la dette nationale sont devenus le poste le plus important du budget national. À moins que le pays n’entame une correction de cap drastique et douloureuse, le coût du service de la dette pourrait dépasser toutes les autres dépenses publiques.

Les économistes affirment qu’un pays capable d’imprimer sa propre monnaie ne peut jamais faire faillite. C’est peut-être vrai techniquement, mais cela n’explique pas pourquoi un pays qui peut imprimer sa propre monnaie doit également emprunter 34 000 milliards de dollars pour financer son gouvernement. Les BRICS et la coalition croissante de dédollarisation mettront ce système contradictoire à l’épreuve.

La dette mondiale approche maintenant les 300 000 milliards de dollars, soit 235 % du PIB mondial, la plus élevée depuis les guerres napoléoniennes. Tous les pays du monde seraient touchés par une implosion du dollar, ce qui signifierait l’implosion du système fiduciaire mondial. Pour naviguer de l’autre côté de la crise de la dette, il faudra des navigateurs qualifiés.

Nouvelle pensée

Le mot cybernétique a été utilisé pour la première fois dans le contexte politique moderne par André-Marie Ampère, le scientifique et philosophe français qui a découvert l’électromagnétisme. Ampère, qui a également étudié les systèmes sociaux et politiques, a fait valoir que « la science future de la gouvernance devrait s’appeler cybernétique ».

Le physicien Bruce Lindsay, auteur de l’article de 1970 « The Larger Cybernetics », a spéculé sur le raisonnement d’Ampère pour utiliser le terme cybernétique. Il a écrit :

« C’est dans ces mémoires qu’Ampère a introduit pour la première fois le terme cybernétique pour désigner la science du gouvernement. Il a évidemment estimé que c’était une terminologie appropriée puisque κγβερντεσ est le grec pour timonier ou gouverneur, celui qui contrôle la direction du navire ».

Cela peut être considéré comme le début de la reconnaissance formelle de la science du contrôle, bien qu’il ne semble pas que la définition d’Ampère ait attiré beaucoup d’attention au XIXe siècle, ni dans notre propre siècle d’ailleurs, jusqu’à ce que Norbert Wiener ressuscite le terme dans son livre intitulé Cybernetics, publié en 1948, et tente de mettre le sujet sur une base plus formelle. 

Ampère a peut-être influencé le philosophe allemand Martin Heidegger, qui a étudié la relation humaine à la technologie (il a parlé de « technicité »). Dans une interview accordée au magazine Der Spiegel en 1966, Heidegger a fait valoir que la philosophie européenne n’était pas équipée pour faire face aux changements technologiques et avait atteint un point de terminaison avec le nihilisme de Friedrich Nietzsche. Lorsqu’on lui a demandé ce qui vient après la philosophie, Heidegger a répondu : « La cybernétique ».

Heidegger appelait la cybernétique « un autre type de pensée », ajoutant : « La manière de penser de la métaphysique traditionnelle qui a atteint son terme avec Nietzsche n’offre plus aucune possibilité de faire l’expérience dans la pensée de l’élan fondamental de l’ère de la technicité qui ne fait que commencer. »

JAN KRIKKE

Jan Krikke est un ancien correspondant au Japon pour divers médias, ancien rédacteur en chef d’Asia 2000 à Hong Kong et auteur de Creating a Planetary Culture : European Science, Chinese Art, and Indian Transcendence (2023).Autres titres de Jan Krikke