La dernière croisade d’Henry Kissinger: stopper l’intelligence artificielle…

Time

Et cet homme dont l’intelligence et la capacité de prévision sont très surfaites à la mesure de l’intelligence de ceux qui en assurent la promotion, a été omniprésent sur la scène internationale au siècle dernier. Il joué un rôle dans la guerre du Vietnam, dans la fin de l’URSS et dans l’alliance avec la Chine qui était supposée in fine renoncer au communisme. On insiste souvent sur ses origines juives mais même là il a réussi à servir en tant que secrétaire d’État un des présidents, Nixon, les plus maladivement antisémites et créer une situation en Égypte dont personne n’est encore sorti. Un bref résumé de ses actes démontre que partout il a multiplié les drames, les souffrances, et que tout cela n’a assuré aucune stabilité à l’influence nord-américaine. En revanche, il faut souvent écouter ce qu’il dit parce qu’il éclaire les limites de la stratégie des USA autant que la duplicité de ce pays. Il tente même de passer pour raisonnable, pacifiste, ce mensonge illustre d’ailleurs la faiblesse d’une “gauche” occidentale, prête à se rallier à un individu aussi sanglant et à se fourvoyer avec lui en le soutenant. Donc il faut se dire que les craintes humanistes de Kissinger concernant l’intelligence artificielle peuvent signifier deux choses : la première est simplement que les USA sont en retard, que ce qu’il appelle le monde de la raison, celui du capitalisme et de l’impérialisme pour faire simple, ne maîtrise plus rien… Donc son effroi a un sens, celui de son propre déclin. Si irréversible qu’il se montre incapable d’envisager une autre organisation sociale basée sur la coopération humaine. Peut-être alors le politique pourrait surmonter ce qu’il craint, le fait que la bête sauvage des intérêts privés dominés par la concurrence et le profit substitue la fin aux moyens incompréhensible et aboutisse à une fin non prévue. La seconde hypothèse de cette “conscience” en alerte est peut-être, l’être humain étant perfectible, qu’il a fait un bilan de son propre fonctionnement à la tête de la première puissance du monde : voici en effet le rappel de quelques aspects de son palmarès …

Voici quelques aspects de son palmarès. Ayant promis, lors des élections de 1968, une issue rapide au problème de la guerre du Viêt Nam, l’administration américaine doit faire face à une escalade du conflit. Celle-ci est marquée par la décision américaine de bombarder illégalement des positions du Việt Cộng au Laos et au Cambodge (opération Menu). À la suite des accords de Paris du 27 janvier 1973, jetant les bases du retrait américain du Viêt Nam, il reçoit le prix Nobel de la paix, conjointement avec le Vietnamien Lê Đức Thọ qui le décline car selon lui « […] la paix n’a pas réellement été établie ».

Dans son livre Les Crimes de M. Kissinger, le journaliste Christopher Hitchens accuse Kissinger d’avoir pris part au coup d’État du 11 septembre 1973 au Chili dirigé par le général Pinochet contre le gouvernement de Salvador Allende. Bien sûr il nie mais c’est une habitude chez lui de nier alors que les preuves abondent.
En décembre 1975, Gerald Ford et Henry Kissinger rencontrent le président de l’Indonésie Soeharto. Ils auraient approuvé, à la suite de la déclaration d’allégeance de quatre parties du Timor oriental à l’Indonésie, l’imminente annexion par celle-ci de ce territoire, en vue d’unifier l’île de Timor, dont les Indonésiens possèdent déjà l’autre moitié. Cette annexion conduisit au massacre de 200 000 habitants par les soldats indonésiens. Kissinger a toujours affirmé son ignorance à l’égard de cette invasion, à l’encontre de documents qui prouvent le contraire.

Sa politique en Afrique du Sud est tout aussi minable et se termine en Angola par une véritable déroute. Risquet qui avait négocié avec lui me disait que c’était un imbécile et qu’il était aisé de le dérouter tant il était vaniteux, il avait négocié il est vrai avec les conseils de Lê Đức Thọ et sous la direction d’un maître Fidel CASTRO lui-même. (note de Danielle BLEITRACH pour histoire et société)

Belinda Luscombe – Nov

© Alex Wong/Getty Images

À l’âge de 98 ans, l’ancien secrétaire d’État Henry Kissinger a un tout nouveau domaine d’intérêt : l’intelligence artificielle. Il a été intrigué après avoir été persuadé par Eric Schmidt, qui était alors le président exécutif de Google, d’assister à une conférence sur le sujet lors de la conférence Bilderberg en 2016. Les deux ont fait équipe avec le doyen du MIT Schwarzman College of Computing, Daniel Huttenlocher, pour écrire un nouveau livre stimulant, The Age of AI, sur les implications de l’essor et du déploiement rapides de l’intelligence artificielle, qui, selon eux, « augure d’une révolution dans les affaires humaines ». Le livre soutient que les processus d’intelligence artificielle sont devenus si puissants, si parfaitement imbriqués dans les affaires humaines et si imprévisibles, que sans une certaine prévoyance et une certaine gestion, le genre de « transformations historiques » qu’ils apporteront peut envoyer l’histoire humaine dans une direction dangereuse.

Kissinger et Schmidt se sont assis avec TIME pour parler de l’avenir qu’ils envisagent.

Docteur Kissinger, vous êtes un homme d’État très âgé. En quoi l’IA vous est apparue comme un sujet suffisamment important pour que vous interveniez ?

Kissinger: Quand j’étais étudiant de premier cycle, j’ai écrit ma thèse de premier cycle de 300 pages – qui a été interdite après cela pour être autorisée – intitulée « Le sens de l’histoire ». Le sujet du sens de l’histoire et de l’endroit où nous allons a occupé ma vie. Le miracle technologique ne me fascine pas tellement; ce qui me fascine, c’est que nous entrons dans une nouvelle période de conscience humaine que nous ne comprenons pas encore pleinement. Quand nous disons une nouvelle période de la conscience humaine, nous voulons dire que la perception du monde sera différente, au moins aussi différente qu’entre le siècle des Lumières et la période médiévale, lorsque le monde occidental est passé d’une perception religieuse du monde à une perception du monde sur la base de la raison, lentement. Ce sera plus rapide.

Il y a une différence importante. Au siècle des Lumières, il y avait un monde conceptuel basé sur la foi. Ainsi, Galilée et les pionniers tardifs des Lumières avaient une philosophie dominante contre laquelle ils devaient tester leur pensée. Vous pouvez retracer l’évolution de cette pensée. Nous vivons dans un monde qui, en effet, n’a pas de philosophie; il n’y a pas de point de vue philosophique dominant. Ainsi, les technologues peuvent se déchaîner. Elles peuvent développer des choses qui changent le monde, mais il n’y a personne pour dire : « Nous devons intégrer cela dans quelque chose. »

Lorsque vous avez rencontré Eric [Schmidt] et qu’il vous a invité à prendre la parole chez Google, vous avez dit que vous considériez l’intelligence artificielle comme une menace pour la civilisation. Pourquoi avez-vous ressenti cela ?

Kissinger: Je ne voulais pas qu’une seule organisation ait le monopole de la fourniture d’information. Je pensais qu’il était extrêmement dangereux pour une entreprise d’être en mesure de fournir de l’information et d’ajuster ce qu’elle fournissait à son étude de ce que le public voulait ou trouvait plausible. La vérité est donc devenue relative. C’était tout ce que je savais à l’époque. Et la raison pour laquelle il m’a invité à rencontrer son groupe algorithmique était de me faire comprendre que ce n’était pas arbitraire, mais que le choix de ce qui était présenté avait une réflexion et une analyse derrière. Cela n’a pas évité ma crainte qu’une organisation privée ait ce pouvoir. Mais c’est comme ça que je me suis lancé.

Schmidt: La visite à Google l’a fait réfléchir. Et quand nous avons commencé à en parler, le Dr Kissinger a dit qu’il était très inquiet de l’impact que cette collection de technologies aura sur les humains et leur existence, et que les technologues opèrent sans l’avantage de comprendre leur impact ou leur histoire. Et cela, je pense, est tout à fait correct.

Étant donné que beaucoup de gens ressentent la façon dont vous le faites ou l’avez fait à propos des entreprises technologiques – qu’il n’y a pas vraiment de confiance, que bon nombre des manipulations qu’elles ont utilisées pour améliorer leur entreprise n’ont pas nécessairement été excellentes pour la société – quel rôle voyez-vous les leaders technologiques jouer dans ce nouveau système?

Kissinger: Je pense que les entreprises technologiques ont ouvert la voie à une nouvelle période de conscience humaine, comme l’ont fait les générations des Lumières lorsqu’elles sont passées de la religion à la raison, et les technologues nous montrent comment relier la raison à l’intelligence artificielle. C’est un type de connaissance différent à certains égards, parce qu’avec la raison – le monde dans lequel j’ai grandi – chaque preuve soutient l’autre. Avec l’intelligence artificielle, ce qui est étonnant, c’est que vous arrivez à une conclusion qui est correcte. Mais vous ne savez pas pourquoi. C’est un défi totalement nouveau. Et donc, à certains égards, ce qu’ils ont inventé est dangereux. Mais cela fait progresser notre culture. Serions-nous mieux lotis s’il n’avait jamais été inventé ? Je ne le sais pas. Mais maintenant qu’elle existe, nous devons le comprendre. Et elle ne peut pas être éliminée. Trop de notre vie est déjà consommée par elle.

Selon vous, quelle est la principale implication géopolitique de la croissance de l’intelligence artificielle ?

Kissinger: Je ne pense pas que nous ayons encore examiné cela de manière réfléchie. Si vous imaginez une guerre entre la Chine et les États-Unis, vous avez des armes d’intelligence artificielle. Comme toute intelligence artificielle, elles sont plus efficaces dans ce que vous planifiez. Mais elles pourraient aussi être efficaces dans ce qu’elles pensent être leur objectif. Et donc, si vous dites: « La cible A est ce que je veux », ils pourraient décider que quelque chose d’autre répond encore mieux à ces critères. Vous êtes donc dans un monde de légère incertitude. Deuxièmement, puisque personne n’a vraiment testé ces choses sur une opération à grande échelle, vous ne pouvez pas dire exactement ce qui se passera lorsque les avions de combat IA des deux côtés interagiront. Vous êtes donc alors dans un monde de destructivité potentiellement totale et d’incertitude substantielle quant à ce que vous faites.

La Première Guerre mondiale était presque comme ça dans le sens où tout le monde avait planifié des scénarios de mobilisation très compliqués, et ils étaient si finement orientés qu’une fois que cette chose se mettait en marche, ils ne pouvaient pas l’arrêter, parce qu’ils se mettraient dans une mauvaise situation.

Votre préoccupation est donc que les IA sont trop efficaces? Et nous ne savons pas exactement pourquoi elles font ce qu’elles font?

Kissinger: J’ai étudié ce dont je parle la majeure partie de ma vie; je n’ai étudié que pendant quatre ans. L’ordinateur Deep Think a appris à jouer aux échecs en jouant contre lui-même pendant quatre heures. Et il jouait à une partie d’échecs qu’aucun être humain n’avait jamais vue auparavant. Nos meilleurs ordinateurs ne le battent qu’occasionnellement. Si cela se produit dans d’autres domaines, comme il se doit et c’est le cas, c’est quelque chose et notre monde n’y est pas du tout préparé.

Le livre soutient que parce que les processus d’IA sont si rapides et satisfaisants, on s’inquiète de savoir si les humains perdront la capacité de pensée, de conceptualisation et de réflexion. Comment?

Schmidt: Donc, encore une fois, en prenant l’exemple du Dr Kissinger, pensons au temps qu’il a eu pour faire son travail il y a 50 ans, en termes de temps conceptuel, de capacité de penser, de communiquer et ainsi de suite. Dans 50 ans, quel est le grand récit ? La compression du temps. Nous sommes passés de la capacité de lire des livres à être des livres décrits, à ne pas avoir le temps de les lire, ni de les concevoir ou d’en discuter, parce qu’il y a une autre chose à venir. Donc, cette accélération du temps et de l’information, je pense, dépasse vraiment les capacités humaines. C’est accablant, et les gens s’en plaignent; ils sont dépendants, ils ne peuvent pas penser, ils ne peuvent pas dîner seuls. Je ne pense pas que les humains aient été construits pour cela. Cela déclenche des niveaux de cortisone, et des choses comme ça. Donc, à l’extrême, la surcharge d’informations est susceptible de dépasser notre capacité à traiter tout ce qui se passe.

Ce que j’ai dit – et qui est dans le livre – c’est que vous allez avoir besoin d’un assistant. Donc, dans votre cas, vous êtes un journaliste, vous avez un million de choses qui se passent, vous allez avoir besoin d’un assistant sous la forme d’un ordinateur qui dit: « Ce sont les choses importantes qui se passent. Ce sont les choses auxquelles il faut penser, chercher dans les dossiers, qui vous rendraient encore plus efficace. » Un physicien est le même, un chimiste est le même, un écrivain est le même, un musicien est le même. Le problème est donc que vous êtes maintenant devenu très dépendant de ce système d’IA. Et dans le livre, nous disons, eh bien, qui contrôle ce que fait le système d’IA? Qu’en est-il de ses préjugés ? Qu’est-ce qui réglemente ce qui se passe? Et surtout avec les jeunes, c’est une grande préoccupation.

L’une des choses que vous écrivez dans le livre est la façon dont l’IA a une sorte de bon et de mauvais côté. Que voulez vous dire?

Kissinger: Eh bien, je voulais intrinsèquement dire ce que j’ai dit chez Google. Jusqu’à présent, l’humanité supposait que ses progrès technologiques étaient bénéfiques ou gérables. Nous disons que cela peut être extrêmement bénéfique. C’est peut-être gérable, mais il y a des aspects de la partie gestion que nous n’avons pas étudiés du tout ou suffisamment. Je reste inquiet. Je m’oppose à ce que l’on dise qu’il faut donc l’éliminer. C’est là maintenant. L’un des points majeurs est que nous pensons qu’il devrait y avoir une certaine philosophie pour guider la recherche.

Selon vous, qui ferait cette philosophie? Quelle est la prochaine étape?

Kissinger: Nous avons besoin d’un certain nombre de petits groupes qui posent des questions. Quand j’étais étudiant diplômé, les armes nucléaires étaient nouvelles. Et à ce moment-là, un certain nombre de professeurs inquiets à Harvard, MIT et Caltech se sont réunis la plupart des samedis après-midi pour demander quelle est la réponse? Comment y faire face? Et ils ont eu l’idée du contrôle des armes.

Schmidt: Nous avons besoin d’un processus similaire. Ce ne sera pas un seul endroit, ce sera un ensemble d’initiatives de ce genre. L’un de mes espoirs est d’aider à organiser ces post-livres, si nous obtenons un bon accueil pour le livre.

Je pense que la première chose est que ce genre de choses est trop puissant pour être fait par la technologie seule. Il est également peu probable qu’il soit réglementé correctement. Il faut donc construire une philosophie. Je ne peux pas dis-le aussi bien que le Dr Kissinger, mais vous avez besoin d’un cadre philosophique, d’un ensemble de compréhensions de l’endroit où les limites de cette technologie devraient aller. D’après mon expérience en science, la seule façon d’y parvenir est de réunir les scientifiques et les décideurs politiques sous une forme ou une autre. C’est vrai en biologie, c’est vrai en ADN recombinant et ainsi de suite.

Ces groupes doivent être d’envergure internationale? Sous l’égide de l’ONU, ou qui ?

Schmidt: La façon dont ces choses fonctionnent généralement est qu’il y a des groupes relativement petits, relativement élitistes, qui ont réfléchi à cela, et ils ont besoin d’être cousus ensemble. Ainsi, par exemple, il y a un Oxford AI and Ethics Strategy Group, qui est assez bon. Il y a de petites poches dans le monde entier. Il y en a aussi un certain nombre que je connais en Chine. Mais ils ne sont pas cousus ensemble; c’est le début. Donc, si vous croyez ce que nous croyons – c’est-à-dire que dans une décennie, ce genre de choses sera extrêmement puissant – nous ferions mieux de commencer maintenant à réfléchir aux implications.

Je vais vous donner mon exemple préféré, qui est dans la doctrine militaire. Tout va plus vite. Ce que nous ne voulons pas, ce sont des armes qui sont lancées automatiquement, sur la base de leur propre analyse de la situation.

Kissinger: Parce que l’attaquant peut être plus rapide que le cerveau humain ne peut analyser, c’est donc un cercle vicieux. Vous êtes incité à le rendre automatique, mais vous ne voulez pas le rendre si automatique qu’il peut agir sur un jugement que vous pourriez ne pas porter.

Schmidt: Il n’y a donc pas de discussion aujourd’hui sur ce point entre les différents grands pays. Et pourtant, c’est le problème évident. Nous avons beaucoup de discussions sur des choses qui sont la vitesse humaine. Mais qu’en est-il lorsque tout arrive trop vite pour les humains ? Nous devons nous mettre d’accord sur certaines limites, des limites mutuelles sur la vitesse à laquelle ces systèmes fonctionnent, sinon nous pourrions nous trouver dans une situation très instable.

Vous pouvez comprendre comment les gens pourraient trouver cela difficile à avaler venant de vous. Parce que tout le succès de Google était basé sur la quantité d’informations pouvant être livrées, à quelle vitesse. Beaucoup de gens diraient: Eh bien, c’est en fait un problème que vous avez aidé à faire venir.

Schmidt: Je l’ai fait, je suis coupable. Avec beaucoup d’autres personnes, nous avons construit des plates-formes qui sont très, très rapides. Et parfois, elles sont plus rapides que ce que les humains peuvent comprendre. C’est un problème.

Avons-nous déjà pris de l’avance sur la technologie? N’avons-nous pas toujours répondu après son arrivée ? C’est vrai qu’on ne comprend pas ce qui se passe. Mais les gens n’ont d’abord pas compris pourquoi la lumière s’allumait lorsqu’ils tournaient l’interrupteur. De la même manière, beaucoup de gens ne sont pas préoccupés par l’IA.

Schmidt: Je suis très préoccupé par l’utilisation abusive de toutes ces technologies. Je ne m’attendais pas à ce qu’Internet soit utilisé par les gouvernements pour interférer dans les élections. Cela ne m’est jamais venu à l’esprit. J’avais tort. Je ne m’attendais pas à ce qu’Internet soit utilisé pour alimenter le mouvement anti-vax d’une manière aussi terrible. J’avais tort. Cela m’a manqué. Nous n’allons pas manquer le prochain. Nous allons l’appeler à l’avance.

Kissinger: Si vous l’aviez su, qu’auriez-vous fait ?

Schmidt: Je ne sais pas. J’aurais pu faire quelque chose de différent. Si je l’avais su il y a 10 ans, j’aurais pu construire différents produits. J’aurais pu faire du lobby d’une manière différente. J’aurais pu faire des discours d’une manière différente. J’aurais pu donner l’alarme aux gens avant que cela ne se produise.

Je ne suis pas d’accord avec la ligne de votre argument selon laquelle c’est fataliste. Nous savons à peu près ce que la technologie va offrir. Nous pouvons généralement prédire la technologie assez précisément dans un horizon de 10 ans, certainement un horizon de cinq ans. Nous avons donc essayé dans notre livre d’écrire ce qui va se passer. Et nous voulons que les gens s’en occupent. J’ai mes propres réponses à la façon dont nous résoudrions ces problèmes. Nous avons une référence mineure dans le livre sur la façon dont vous résoudriez la désinformation, qui va s’aggraver. Et la façon dont vous résolvez cela est essentiellement en sachant d’où vient l’information cryptographiquement, puis en classant de sorte que la meilleure information soit au sommet.

Kissinger: Je ne sais pas si quelqu’un aurait pu prévoir comment la politique change à la suite de cela. C’est peut-être la nature de la destinée humaine et de la tragédie humaine qu’on leur ait donné le don d’inventer des choses. Mais la punition peut être qu’ils doivent trouver eux-mêmes les solutions. Je n’avais aucune incitation à entrer dans des discussions technologiques. À 90 ans, j’ai commencé à travailler avec Eric. Il a mis en place des petits séminaires de quatre ou cinq personnes toutes les trois ou quatre semaines, auxquels il a adhéré. Nous discutions de ces questions et nous soulevions bon nombre des questions que vous avez soulevées ici pour voir ce que nous pouvions faire. À l’époque, c’était juste argumentatif, puis, à la fin de la période, nous avons invité Dan Huttenlocher, parce qu’il est techniquement si compétent, pour voir comment nous allions l’écrire. Puis nous nous sommes rencontrés tous les trois pendant un an, tous les dimanches après-midi. Donc, cela ne se contente pas d’éclater. C’est un sérieux ensemble de préoccupations.

Schmidt: Donc, ce que nous espérons avoir fait, c’est que nous avons exposé les problèmes aux groupes pour comprendre comment les résoudre. Et il y en a un certain nombre : l’impact sur les enfants, l’impact sur la guerre, l’impact sur la science, l’impact sur la politique, l’impact sur l’humanité. Mais nous voulons dire dès maintenant que ceux qui ont des initiatives doivent commencer maintenant.

Enfin, j’aimerais vous poser à chacun une question qui se rapporte en quelque sorte les uns aux autres. Docteur Kissinger, quand, dans 50 ans, quelqu’un cherchera votre nom sur Google, quel fait aimeriez-vous que le premier fait à votre sujet soit?

Kissinger: Que j’ai apporté une certaine contribution à la conception de la paix. J’aimerais qu’on se souvienne de moi pour certaines choses que j’ai faites aussi. Mais si vous me demandez de le résumer en une phrase, je pense que si vous regardez ce que j’ai écrit, tout fonctionne ensemble vers le même thème.

Et M. Schmidt, qu’aimeriez-vous que les gens considèrent comme votre contribution à la conception de la paix ?

Eh bien, les chances que Google existe dans 50 ans, compte tenu de l’histoire des entreprises américaines, ne sont pas si élevées. J’ai grandi dans l’industrie de la technologie, qui est une version simplifiée de l’humanité. Nous nous sommes débarrassés de tous les problèmes difficiles embêtants, non? J’espère avoir fait le pont entre la technologie et l’humanité d’une manière plus profonde que toute autre personne de ma génération.