Crevette jésus et la théorie de “l’internet mort” géré par l’IA

Connaissez vous la théorie selon laquelle l’IA et le contenu généré par les robots ont dépassé l’Internet généré par l’homme, en tous les cas elle gagne du terrain, alors qu’on s’interroge sur sa réalité… Cette théorie fait partie de l’arsenal de ce qui est attribué aux Russes en capacité d’influence sur le monde occidental, une sorte de miroir tendu à ce monde dont jadis nous étions les seuls protagonistes officiels comme pour imaginer que tout ce qui prétend à nous succéder est la fin de la civilisation “humaine”, le barbare robot c’est le Chinois, le Russe, et tout ce qui nous menacerait d’une barbarie aux allures “technologiques”. Notez l’intéressante inversion : si dans les années soixante il existait des études sur l’influence de la CIA, nous sommes retournés plus ou moins à l’époque où se déchaîne le Maccarthysme et où l’URSS celle qui sort victorieuse de la seconde guerre mondiale est accusée d’avoir des espions partout, alors même que l’on ignore volontairement ce que les dits USA mettent réellement en place en utilisant y compris les anciens nazis. L’article vient d’Australie, le pays de l’empire de presse de Murdoch, la lie de la presse, qui est sans doute un des pays les plus paranoïaques du camp britannique alors même que l’on s’accorde sur le rôle joué par le M16 dans tous les mauvais coups et le poids sur la City de tout ce que l’argent sale, trafic d’armes, de drogue, peut inventer pour perpétuer un pouvoir mafieux. La Théorie de “l’internet mort” permet de ne pas s’interroger sur l’espace démocratique réel que pourrait conquérir le citoyen par rapport à ce qu’il subit dans tous les médias, les appareils idéologiques de propagande. La Théorie de l’internet mort est le genre de rumeur paranoïaque qui connait immédiatement un grand succès dans les réseaux sociaux. Ces rumeurs reflètent l’absence de crédibilité de la classe dominante réduite à une bande de capricieux d’ultrariches et à personnel politique escroc et mafieux incapables de provoquer autre chose que la guerre et la régression dans la violence et le spectacle incite ce monde à ne voir dans les forces productives que le devenir de l’apocalypse de l’espèce… (note et traduction de Danielle Bleitrach pour histoireetsociete)

Par JAKE RENZELLA et VLADA ROZOVA 22 MAI 2024

Si vous recherchez « crevette Jésus » sur Facebook, vous pourriez rencontrer des dizaines d’images de crustacés générés par l’intelligence artificielle (IA) sous diverses formes combinées avec une image stéréotypée de Jésus-Christ.

Certaines de ces images hyperréalistes ont recueilli plus de 20 000 likes et commentaires. Alors, que se passe-t-il exactement dans ce cas ?

La « théorie de l’Internet mort » a une explication : l’IA et le contenu généré par les robots ont dépassé l’Internet généré par l’homme. Mais d’où vient cette idée et a-t-elle un fondement dans la réalité ?

Qu’est-ce que la théorie de l’Internet mort ?

La théorie de l’Internet mort affirme essentiellement que l’activité et le contenu sur Internet, y compris les comptes de médias sociaux, sont principalement créés et automatisés par des agents de l’intelligence artificielle.

Ces agents peuvent rapidement créer des publications à côté d’images générées par l’IA conçues pour favoriser l’engagement (clics, likes, commentaires) sur des plateformes telles que Facebook, Instagram et TikTok. Quant à la crevette Jésus, il semble que l’IA ait appris que c’est le dernier mélange actuel d’absurdité et d’iconographie religieuse à devenir viral.

Mais la théorie de l’Internet mort va encore plus loin. De nombreux comptes qui interagissent avec ce type de contenu semblent également être gérés par des agents d’intelligence artificielle. Cela crée un cercle vicieux d’engagement artificiel, qui n’a pas d’agenda clair et n’implique plus du tout les humains.

Engagement inoffensif ou propagande sophistiquée ?

À première vue, la motivation de ces comptes à susciter l’intérêt peut sembler évidente : l’engagement sur les réseaux sociaux génère des revenus publicitaires. Si une personne crée un compte qui reçoit un engagement gonflé, elle peut gagner une part des revenus publicitaires des organisations de médias sociaux telles que Meta.

Alors, la théorie de l’Internet mort s’arrête-t-elle à l’hypothèse d’engagement inoffensive ? Ou peut-être que sous la surface se cache une tentative sophistiquée et bien financée de soutenir des régimes autocratiques, d’attaquer des opposants et de diffuser de la propagande ?

Bien que le phénomène de Jésus en crevette puisse sembler inoffensif (bien que bizarre), il existe potentiellement un stratagème à plus long terme.

Au fur et à mesure que ces comptes pilotés par l’IA augmentent en nombre d’abonnés (beaucoup de faux, certains réels), le nombre élevé d’abonnés légitime le compte auprès des utilisateurs réels. Cela signifie que là-bas, une armée de comptes est en train d’être créée. Les comptes avec un nombre élevé d’abonnés pourraient être déployés par ceux qui ont l’offre la plus élevée.

C’est d’une importance cruciale, car les médias sociaux sont désormais la principale source d’information pour de nombreux utilisateurs dans le monde. En Australie, 46 % des 18-24 ans ont désigné les médias sociaux comme principale source d’information l’année dernière. Il s’agit d’une augmentation par rapport aux 28 % de 2022, prenant le relais des médias traditionnels tels que la radio et la télévision.

Désinformation alimentée par les bots

Il existe déjà des preuves solides que les médias sociaux sont manipulés par ces bots gonflés pour influencer l’opinion publique avec de la désinformation – et cela se produit depuis des années.

En 2018, une étude a analysé 14 millions de tweets sur une période de dix mois en 2016 et 2017. Il a constaté que les bots sur les médias sociaux étaient impliqués de manière significative dans la diffusion d’articles provenant de sources non fiables. Les comptes avec un grand nombre d’abonnés légitimaient la mésinformation et la désinformation, ce qui amenait les vrais utilisateurs à croire, à s’engager et à repartager le contenu publié par des robots.

Cette approche de la manipulation des médias sociaux s’est avérée se produire après des fusillades de masse aux États-Unis. En 2019, une étude a révélé que les messages générés par des bots sur X (anciennement Twitter) contribuent fortement au débat public, servant à amplifier ou à déformer les récits potentiels associés à des événements extrêmes.

Plus récemment, plusieurs campagnes de désinformation pro-russes à grande échelle ont visé à saper le soutien à l’Ukraine et à promouvoir un sentiment pro-russe.

Découverts par des militants et des journalistes, les efforts coordonnés ont utilisé des bots et l’IA pour créer et diffuser de fausses informations, atteignant des millions d’utilisateurs de médias sociaux.

Rien que sur X, la campagne a utilisé plus de 10 000 comptes de bots pour publier rapidement des dizaines de milliers de messages de contenu pro-Kremlin attribués à des célébrités américaines et européennes semblant soutenir la guerre en cours contre l’Ukraine.

Cette échelle d’influence est importante. Certains rapports ont même révélé que près de la moitié de tout le trafic Internet en 2022 a été effectué par des bots. Avec les progrès récents de l’IA générative – tels que les modèles ChatGPT d’OpenAI et Gemini de Google – la qualité du faux contenu ne fera que s’améliorer.

Les organisations de médias sociaux cherchent à lutter contre l’utilisation abusive de leurs plateformes. Elon Musk a notamment envisagé d’exiger que les utilisateurs de X paient pour s’abonner afin d’arrêter les fermes de bots.

Les géants des médias sociaux sont capables de supprimer de grandes quantités d’activité de bot détectée s’ils le souhaitent. (Mauvaise nouvelle pour notre sympathique crevette Jésus.)

Gardez à l’esprit l’Internet mort

La théorie de l’Internet mort ne prétend pas vraiment que la plupart de vos interactions personnelles sur Internet sont fausses.

C’est cependant une lentille intéressante à travers laquelle voir Internet. Qu’il n’est plus pour les humains, par les humains – c’est dans ce sens que l’Internet que nous connaissions et aimions est « mort ».

La liberté de créer et de partager nos pensées sur Internet et les médias sociaux est ce qui l’a rendu si puissant. Naturellement, c’est ce pouvoir que les mauvais acteurs cherchent à contrôler.

La théorie de l’Internet mort est un rappel d’être sceptique et de naviguer sur les médias sociaux et autres sites Web avec un esprit critique.

Toute interaction, tendance et surtout « sentiment général » pourrait très bien être synthétique. Conçu pour changer légèrement la façon dont vous percevez le monde.

Jake Renzella est maître de conférences et directeur des études (informatique) à l’UNSW Sydney et Vlada Rozova est chargée de recherche en apprentissage automatique appliqué à l’Université de Melbourne

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l’article original.