Cubadebate a repris et traduit ce texte russe pour interroger le sens du développement de l’intelligence artificielle. L’aspect négatif de ce développement est double, premièrement il y a une concurrence effrénée entre les nations qui ne se donnent pas de ce fait les moyens de réfléchir au but, ensuite cela se fait sans débat démocratique… Le tout sur le modèle de la course aux armements, alors qu’il faudrait coopération et décision politique et éthique collective. La littérature, Čapek et Asimov ont posé le problème, il faut les relire. Décidément Cuba est bien la conscience de l’humanité (note et traduction de Danielle Bleitrach).
Par: Valentín Katasonov
Les humains et les robots travailleront ensemble dans un proche avenir. Cette combinaison accélérera le développement de la technologie. L’homme d’affaires et le cyborg organisent des réseaux sociaux.
Quelle est la menace?
La course aux armements se poursuit au XXIe siècle, mais la course à l’intelligence artificielle (IA) prend un nouveau sens. La création de machines intelligentes capables d’exécuter des fonctions créatives inhérentes à l’être humain est devenue un domaine clé du progrès scientifique et technologique. Les technologies d’intelligence artificielle sont conçues pour résoudre des problèmes liés à de nombreux domaines de la vie: gouverner l’État, accroître la compétitivité de la production, des finances, des transports, de la vie quotidienne, de l’éducation, de la médecine, de la défense.
En 2017, le cabinet de conseil international Price Waterhouse Coopers a préparé un rapport sur l’impact possible de l’IA sur l’économie mondiale. Selon les experts de la société, l’intelligence artificielle sera en mesure de fournir une croissance supplémentaire du PIB mondial de 15,7 billions de dollars ou 14% d’ici 2030. Les experts ont reconnu la Chine comme un leader de la course dans le domaine de l’intelligence artificielle. Grâce à l’IA, elle pourra générer un PIB supplémentaire s’élevant à 7 billions de dollars (environ 45% de la croissance totale du PIB jusqu’en 2030). Et voici les estimations de la croissance du PIB due à l’IA dans d’autres régions (trillions de dollars): Amérique du Nord: 3,7; Europe du Nord: 1,8; Europe du Sud: 0,7; Afrique et Océanie: 1,2; Asie (hors Chine): 0,9; Amérique latine: 0,5
La Brookings Institution ne considère pas la Russie comme un prétendant au leadership dans l’IA, bien qu’elle ait sa propre stratégie pour son développement jusqu’en 2030.
Les auteurs du rapport notent que la Chine devrait dépenser 150 milliards de dollars pour le développement de l’IA en 2017-2030. Le leadership de la Chine dans le développement de l’IA est également reconnu par les experts du McKinsey Global Institute. Selon leurs estimations, l’introduction de l’IA entraînera une nouvelle augmentation du PIB chinois d’un montant de 0,8 à 1,4 point de pourcentage. Malgré le fait que la crise économique virale a annulé les évaluations précédentes, la Chine ne changera pas ses priorités. En mai-juin, Pékin a confirmé que les investissements dans l’intelligence artificielle resteraient au même niveau.
La Brookings Institution a publié une revue complète intitulée «Comment l’intelligence artificielle transforme-t-elle le monde?» couvrant 34 pays (1). Ces experts admettent également que l’Occident est perdant face à la Chine dans le développement des technologies d’IA.
La Brookings Institution ne considère pas la Russie comme un prétendant au leadership de l’IA, bien qu’elle ait sa propre stratégie pour son développement jusqu’en 2030. La Russie se donne-t-elle cependant les moyens de rejoindre cette course? En avril 2020, la Fédération de Russie a adopté une loi sur la conduite d’une expérience sur le développement de l’intelligence artificielle à Moscou. La loi a été adoptée sans en informer le grand public ; dans la revue The Brookings Institution On observe que dans la plupart des pays, les projets d’IA sont également menés sans information publique. Le chef du Conseil des droits de l’homme (CDH), Valery Fadeev, a exprimé sa préoccupation à ce sujet. Selon lui, l’utilisation de l’intelligence artificielle est lourde de menaces d’introduction massive de micropuces dans la société. Le directeur du HRC a souligné deux points négatifs de l’expérience à Moscou: premièrement, un grand nombre de capteurs et de caméras qui suivent les déplacements des citoyens; deuxièmement, on peut craindre que toutes les données soient envoyées à un seul registre fédéral.
Il y a des dangers d’un autre genre. Si le développement de l’IA est basé sur du matériel importé, il existe une menace pour la sécurité nationale. De plus, les échantillons d’IA existants démontrent une grande capacité d’auto-apprentissage; il ne peut être exclu qu’ils puissent surpasser les humains.
Les robots intelligents de Čapek se sentaient opprimés et exploités; ils ont commencé à exiger l’égalité des droits avec les humains.
Il existe deux types de robots. Des robots qui effectuent des opérations mécaniques et remplacent le travail physique humain et des robots intelligents qui peuvent remplacer le travail mental, c’est-à-dire des machines à intelligence artificielle. Les robots intelligents sont déjà entrés en compétition avec les humains. Par exemple, en Chine, les robots intelligents peuvent écrire certains documents d’information simples pour les médias et commencent à remplacer les journalistes. Demain, ils commenceront à remplacer les médecins, les enseignants, les avocats, les écrivains et même les scientifiques. Et après-demain (qui sait?) ne commenceront-ils pas à rechercher l’égalité des droits avec les êtres humains? Et après-demain, ils continueront à se battre pour leur place au soleil et un espace de vie. Si nous laissons le génie sortir de la bouteille, les gens pourront-ils le contrôler? Y a-t-il le problème de l’introduction d’un moratoire sur le développement de l’IA? Malheureusement, dans une atmosphère d’excitation concurrentielle, les conséquences à long terme du développement de l’IA ne sont pas prises en compte.
Dans l’article «L’eschatologie de Karel Čapek», j’ai écrit que cet écrivain tchèque a inventé le mot «robot» (2). En 1920, il a écrit l’œuvre fantastique RUR (Rossum’s Universal Robots), qui peut être définie comme une dystopie, comme une parabole; cela vous permet de vous éloigner des idées habituelles sur les robots et de jeter un regard légèrement différent sur les initiatives d’IA.
RUR est le nom que Čapek a donné à une usine qui produit des robots. L’usine a été fondée par un certain Rossum, philosophe athée. Il a décidé de défier Dieu et de créer un homme lui-même. Il a réussi à créer une créature humanoïde. En le construisant à partir de matière organique, Rossum a donc reçu de la matière vivante et un robot est sorti de l’usine capable d’effectuer des mouvements et des processus adaptés à un travail égal à ceux d’une personne, bien que Rossum ne puisse pas créer une personne pleinement douée de la raison, des désirs et des sentiments.
Cet héritage a été repris par son neveu, Rossum Jr., qui s’est rendu compte que la créature humanoïde créée par son oncle était suffisamment douée pour organiser une production à grande échelle de robots. C’était la finition parfaite, bon marché, sans prétention. L’usine RUR a inondé le marché mondial d’une nouvelle main-d’œuvre qui a remplacé les travailleurs vivants. Les robots ont commencé à produire des quantités gigantesques de toutes sortes de marchandises. Avec l’apparition de l’abondance générale, les gens ont cessé de travailler. Et l’homme, écrit Čapek, a commencé à perdre son apparence humaine: «Tout est une orgie bête et insensée continue. Maintenant, ils ne se tendent pas les mains pour manger, ils les mettent dans leur bouche pour qu’ils ne se lèvent pas … Nous, le peuple, nous, le sommet de la création, ne vieillissons pas du travail, nous ne vieillissons pas dès l’accouchement, nous ne vieillissons pas du travail! la pauvreté! Dépêchez-vous, dépêchez-vous, donnez-nous tous les plaisirs du monde! “
Le Conseil des robots ordonne au seul humain survivant, Alquist, de restaurer la formule tant convoitée.
Pour Čapek, l’humanité, plongée dans les plaisirs, a cessé de se reproduire. Sa population s’est arrêtée à environ 8,5 milliards de personnes. Et RUR a continué à produire de plus en plus de robots, dont le nombre dépassait le nombre de personnes sur Terre. Certains robots (peut-être un sur un million) ont réalisé un auto-apprentissage et des transformations arbitraires. De robots mécaniques, ils ont commencé à devenir des êtres intelligents, empruntant beaucoup à l’humanité. L’un d’eux, nommé Damon, explique: «Vous devez tuer et gouverner si vous voulez être comme l’humanité! Lisez l’histoire! Lisez les livres de l’humanité! Vous devez gouverner et tuer pour être humain!
Les robots intelligents de Čapek se sentaient opprimés et exploités; ils ont commencé à exiger l’égalité des droits des humains. Les conflits entre robots et humains ont commencé, les gens ont commencé à être détruits: «Les robots du monde entier! Nous, la première organisation des « Rossum Universal Robots », proclamons l’homme comme l’ennemi de la nature et nous l’interdisons ».
Des robots ont entouré l’usine de RUR, exigeant que la formule de fabrication du robot leur soit livrée. L’une des héroïnes de la pièce, Elena Glory, brûle les manuscrits de Rossum Sr. qui contiennent cette formule. Tout se termine avec les robots qui prennent le contrôle de l’usine et tuent tout le monde sauf l’architecte Alquist. Il est sauvé car, selon les robots, «il travaille de ses mains, comme s’il était lui-même un robot». Une victoire complète des robots sur les humains vient. L’un des robots intelligents nommé Radiy proclame: «Nous sommes les dirigeants du monde! Seigneurs des mers et des terres! Seigneurs au-dessus des étoiles! Seigneurs de l’univers! Espace, espace, plus d’espace pour les robots! «
En détruisant les humains, les robots «ont multiplié par plusieurs la production. Il n’y a nulle part où mettre tout ce que… (ils) ont produit ». Mais … les robots ne pouvaient pas se reproduire.
Le Conseil des robots ordonne au seul humain survivant, Alquist, de restaurer la formule tant convoitée. Il est le seul, car la planète est complètement propre des humains. Cependant, Alquist ne peut rien faire. Alors les robots, qui voulaient devenir comme des humains et même plus grands que les humains, tuent toute l’humanité pour cela, mais c’est à leur tour. La fin de l’histoire.
Le travail fait réfléchir: la dépendance à l’intelligence artificielle n’est-elle pas une tentative pour compenser le déclin de l’intelligence humaine? Ne vaut-il pas mieux commencer à restaurer l’intellect de l’humanité elle-même, qui, à en juger par de nombreux signes, s’est fortement dégradée ces dernières décennies?
PD . Les problèmes d’intelligence artificielle soulevés par Karel Čapek ont été repris par l’écrivain de science-fiction américain Isaac Asimov. Asimov était plus optimiste quant aux possibilités d’utiliser l’IA, mais a également reconnu que le développement spontané et non réglementé de l’intelligence artificielle pouvait causer des dommages irréparables à la civilisation humaine. Au début des années 40, Asimov a publié Les trois lois de la robotique, une sorte de règlement de sécurité, mais ces lois sont ignorées.
( à partir de rébellion )
Vues : 182
ipso
Lorsqu’elles atteignent un seuil critique (et sont en situation de monopole) les grandes institutions s’érigent parfois sans le savoir en obstacle à leur propre fonctionnement : la médecine nuit à la santé (tuant la maladie parfois au détriment de la santé du patient), le transport et la vitesse font perdre du temps et des vies, l’école abêtit, les communications deviennent si denses et si envahissantes que plus personne n’écoute ou ne se fait entendre, etc. Illich appelle ce phénomène la contre-productivité. Prenant l’exemple de l’automobile, il observe qu’en 1970, un Américain consacre en moyenne 1 600 heures par an pour sa voiture (ce calcul intègre le temps passé à travailler pour acquérir la voiture et faire face aux frais qui y sont liés) mais ne parcourt que 10 000 kilomètres durant la même période. Illich en conclue que sa vitesse moyenne de déplacement est de 6 km/h, soit celle d’un marcheur.