Mais à qui s’adresse-t-il exactement ? Suivre les innovations de Musk c’est aussi mesurer ce qu’un individu bien intentionné mais capricieux doué de moyens surhumains peut introduire de perturbations en jouant avec la relation ontologique de l’espèce avec son prolongement technologique. On pense au personnage du mulet d’Asimov introduisant des modifications dans la psychohistoire ou à l’enfant que fut Citizien Kane privé de son jouet rosebund… ou même au jocker… (note et traduction de Danielle Bleitrach histoireetsociete)
Par NATALIYA ILYUSHINA16 NOVEMBRE 2023
Le 4 novembre, le propriétaire de X, Elon Musk, a dévoilé son nouveau chatbot IA Grok : une alternative sarcastique à ChatGPT censée être « calquée » sur Le Guide du voyageur galactique, l’un des livres préférés de Musk.
Le verbe Grok signifie « comprendre intuitivement ou par empathie, établir un rapport avec ». L’écrivain de science-fiction Robert Heinlein a été le premier à inventer le terme, qui est maintenant utilisé par les gens de l’industrie informatique.
Selon xAI, une autre société du portefeuille technologique diversifié de Musk, Grok « est conçu pour répondre aux questions avec un peu d’esprit et a une tendance rebelle, alors s’il vous plaît, ne l’utilisez pas si vous détestez l’humour ! »
Grok est construit sur un grand modèle de langage (LLM) de la même manière que ChatGPT d’OpenAI, et se positionne comme un rival potentiel.
Bien que Grok ne soit pas encore disponible pour le grand public, la version bêta a été publiée pour un petit groupe de testeurs et certains des abonnés Premium+ de X. Cependant, Musk a déclaré que l’accès serait accordé en fonction de la durée de l’abonnement Premium+, ce qui suggère que les nouveaux abonnés devront attendre.
Si vous êtes impatient, un certain nombre d’interjections « spirituelles » de Grok ont fait leur chemin vers X flux. Ce qui ressort le plus, c’est à quel point le chatbot est programmé pour être grossier.
Y a-t-il un avantage à avoir un chatbot de cette nature ? Et pourquoi Musk a-t-il pu adopter cette approche ?
Une IA avec un « côté rebelle »
Musk a tweeté un certain nombre de ses interactions avec Grok, ce qui n’a pas manqué de réponses sarcastiques. Plusieurs autres utilisateurs précoces ont également partagé leurs expériences.
Bien que certaines des réponses de Grok semblent aussi bonnes que celles d’autres chatbots, d’autres sont moins bonnes. Par exemple, un utilisateur a signalé que Grok n’était pas en mesure de fournir un résumé et une analyse de l’actualité lorsqu’il a été interrogé sur les élections du 7 novembre aux États-Unis. Au lieu de cela, il a parcouru des tweets récents sur le sujet.
C’est peut-être parce que Grok est encore un produit bêta précoce. Il aurait suivi environ deux mois d’entraînement au moment de son lancement.
Bien que Grok soit censé être inspiré du roman satirique de Douglas Adams de 1979, The Hitchhiker’s Guide to the Galaxy, les critiques n’ont pas tardé à souligner qu’il y avait peu de similitudes entre le chatbot et les personnages et l’humour qui ont fait du livre d’Adams un succès mondial.
Néanmoins, Grok se démarque pour un certain nombre de raisons. Son essence réside dans une satire et une plaisanterie perpétuelles, que les utilisateurs sont invités à savourer.
Il est également disposé, comme l’a dit xAI, à « répondre à des questions épicées qui sont rejetées par la plupart des autres systèmes d’IA ». Ce trait s’est avéré efficace pour rendre Grok viral.
Les premiers messages des utilisateurs montrent qu’il s’engage avec enthousiasme dans des conversations sur le sexe, la drogue et la religion, ce que d’autres chatbots tels que Bing de Microsoft et Bard de Google refuseraient de faire.
Apprendre des tweets
Il n’est pas clair comment le style de Grok affectera son utilisation pratique. Bien qu’il surpasse légèrement ChatGPT 3.5 sur les tests de mathématiques et de connaissances à choix multiples, il ne semble pas y avoir d’exemples de la façon dont il se comporterait lorsqu’on lui demanderait d’écrire un rapport professionnel ou un e-mail, dans lequel l’humour serait inapproprié.
Grok dispose d’un accès direct et en temps réel aux publications sur X ainsi qu’aux ensembles de données d’entraînement standard. En d’autres termes, ses réponses sont basées sur le contenu d’une plateforme qui a été fortement critiquée pour avoir permis les discours de haine et qui a été mal modérée depuis la prise de contrôle par Musk l’année dernière.
Étant donné que les chatbots d’IA reflètent en grande partie la qualité de leurs données d’entraînement (et une formation supplémentaire à la rétroaction humaine), Grok pourrait finir par adopter la myriade de biais et de traits problématiques inhérents au contenu de X. Cela entraînerait des risques pour la sécurité, notamment la propagation d’idées nuisibles et de désinformation, une préoccupation fréquemment citée par les experts appelant à une réglementation de l’IA.
Bien que ChatGPT ait désormais un accès en temps réel à Internet, il s’entraîne également sur un ensemble de données distinct appelé Common Crawl. Cela permet aux développeurs d’avoir plus de contrôle sur ce qui se passe dans le « cerveau » du chatbot.
Selon xAI :
Un avantage unique et fondamental de Grok est qu’il dispose d’une connaissance en temps réel du monde via la plate-forme X.
Mais cela pourrait aussi signifier beaucoup moins de filtrage du contenu qui entre et sort de Grok.
Pourquoi Grok existe-t-il ?
De manière controversée, Grok a été lancé quelques jours seulement après le Sommet sur la sécurité de l’IA à Bletchley Park au Royaume-Uni, où 27 pays ont signé la déclaration de Bletchley visant à atténuer les risques de l’IA.
Musk a également participé au sommet. En fait, quelques heures seulement avant son vol pour le Royaume-Uni, il a parlé de la façon dont l’IA pourrait poser un risque existentiel pour l’humanité si elle devenait « accidentellement anti-humaine ».
Pourtant, quelques jours après avoir discuté de ces risques et participé à un sommet sur l’IA, Musk lance un outil d’IA qui ne tient pas compte de toutes les prémisses de sécurité gravées dans la Déclaration de Bletchley.
Cependant, il se peut qu’il ne le voie pas de cette façon. Dans une interview avec Joe Rogan, Musk a déclaré qu’il avait acheté X (alors Twitter) pour lutter contre le « virus de l’esprit éveillé » et les « extinctionnistes » qui « considèrent l’humanité comme un fléau à la surface de la Terre ».
Former Grok à être politiquement correct, a-t-il dit, est le risque lui-même – et c’est pourquoi il voulait développer un chatbot qui dit ce qu’il « pense » (ou plutôt, ce que pense l’utilisateur moyen).
Cela ferait de Grok la version chatbot IA du « Joe moyen » sur X. Il est difficile de dire si, dans le grand schéma des choses, la majorité des gens ont besoin ou même veulent un tel outil. Mais nous devons certainement tenir compte des risques pour la sécurité que cela peut poser.
En attendant, au moins Grok a une réponse plus complète sur le sens de la vie que « 42 ».
Nataliya Ilyushina est chercheuse, Blockchain Innovation Hub, RMIT University
Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l’article original.
Vues : 57
