La fin du test de Turing, l’arrivée du test d’Ellul…

closeCet article a été publié il y a 1 an 2 mois 5 jours, il est donc possible qu’il ne soit plus à jour. Les informations proposées sont donc peut-être expirées.

Oui, je suis en train de lire « la technique » de Jacques Ellul. J’en ferai un résumé, et j’ai pas trouvé de meilleur nom pour une alternative au test de Turing. L’arrivée des artefacts génératifs provoque un petit remous actuellement, notamment dans le monde de l’éducation supérieure. Cela ne veut pas dire qu’à terme il s’agisse d’une belle (r)évolution des pratiques. C’est juste qu’actuellement j’ai 80% de mes étudiants qui ne savent pas ce qu’est DALL-E ou Midjourney. En revanche ils savent tous ce qu’est ChatGPT, c’est une obligation de le tester dans mon cours de littératie numérique. Mais je me demande : n’est-on pas face à un renversement ? Ce que l’on cherche à faire c’est bien à parler à la machine pour qu’elle nous comprenne et fasse ce que l’on demande ; ce n’est plus la machine qui essaye de berner un humain dans une conversation ! Je m’explique.

Bon commençons déjà par utiliser ce dont je parle. Je me suis amusé à demander à ChatGPT de finir cet article, la réponse est constituée de généralité et de bullshit… Je vous conseille d’ailleurs la très bonne vidéo de M. Phi pour comprendre un peu la machine ChatGPT et constater qu’il ne peut faire que ce qu’il peut faire, par construction.

Moi :

Salut, je suis en train de rédiger un article sur les artefacts génératif comme toi. Je suis enseignant chercheur et j’ai une réflexion initiale que voilà Titre provisoire : La fin du test de Turing, l’arrivée du test d’Ellul…

Introduction : Oui, je suis en train de lire « la technique » de Jacques Ellul. J’en ferai un résumé, et j’ai pas trouvé de meilleur « nom » pour une alternative au test de turing. Je m’explique. L’arrivée des artefacts génératifs provoque un petit remous actuellement, notamment dans le monde de l’éducation supérieure. Attention, cela ne veut pas dire qu’à terme il s’agisse d’une belle (r)évolution des pratiques. C’est juste qu’actuellement j’ai 80% de mes étudiants qui ne savent pas ce qu’est DALL-E ou Midjourney par exemple (en revanche ils savent tous ce qu’est ChatGPT, c’est une obligation de le tester dans mon cours de littératie numérique). Après quelques modestes tentatives que je vous montrerai dans cet article au fur et à mesure j’ai une réflexion que je souhaite partager sur le sujet. N’est-on pas face à un renversement, ou ce que l’on cherche à faire c’est bien parler à la machine pour qu’elle nous comprenne et face ce que l’on demande, plutôt que la machine qui essayerai de berner un humain dans une conversation ? Je m’explique.

Peux-tu me proposer un contenu d’environ 500 mots pour continuer et finir cet article ?

ChatGPT :

Bien sûr, je serai ravi de vous aider à poursuivre votre réflexion sur les artefacts génératifs et l’arrivée du test d’Ellul.

Comme vous l’avez mentionné, l’arrivée des artefacts génératifs suscite beaucoup d’attention et de débat dans le monde de l’éducation supérieure. Cela est dû en partie à la nature même de ces technologies, qui offrent des possibilités sans précédent pour créer des contenus de manière automatisée, à partir de données d’entrée. Les applications de ces technologies sont déjà nombreuses, allant de la génération de textes, d’images et de vidéos à la création de musiques et d’œuvres d’art.

Cependant, ces technologies soulèvent également des questions importantes quant à leur impact sur les pratiques éducatives et, plus largement, sur notre façon d’interagir avec les machines. En effet, à l’heure actuelle, la plupart des interactions avec les machines sont encore basées sur le principe de la demande et de la réponse, où l’utilisateur formule une demande et la machine y répond en fournissant une réponse ou une solution. Mais avec les artefacts génératifs, nous sommes en train de basculer vers une approche où la machine est capable de générer des réponses de manière autonome, sans intervention humaine directe.

Cela soulève la question de savoir si nous devrions continuer à utiliser le test de Turing pour évaluer la capacité des machines à penser et à converser comme des humains. Pour rappel, le test de Turing consiste à déterminer si une machine peut ou non imiter la conversation d’un être humain à un point tel que l’interlocuteur humain ne peut pas distinguer si la réponse provient d’un humain ou d’une machine.

Cependant, dans un contexte où les machines peuvent générer des réponses autonomes, il est peut-être temps de repenser notre approche de l’interaction avec les machines. Au lieu de chercher à imiter la conversation humaine, peut-être devrions-nous plutôt chercher à développer des moyens de communication plus efficaces entre les humains et les machines, en reconnaissant les différences fondamentales entre les deux.

C’est là que le concept de test d’Ellul entre en jeu. Comme vous l’avez mentionné dans votre introduction, Jacques Ellul a proposé un nouveau type de test qui consiste à évaluer la capacité d’une machine à comprendre les intentions humaines plutôt qu’à imiter la conversation humaine. Selon Ellul, cela implique de développer des systèmes de communication qui reconnaissent les différences fondamentales entre les humains et les machines, tout en permettant aux deux parties de communiquer efficacement.

Bien sûr, la mise en œuvre d’un tel test soulève des défis importants, notamment en termes de conception de systèmes de communication adaptatifs et de développement de méthodes d’évaluation efficaces. Cependant, le fait est que nous sommes à un tournant dans notre façon d’interagir avec les machines, et il est temps de commencer à réfléchir sérieusement à la façon dont nous pouvons améliorer cette interaction.

En fin de compte, l’arrivée des artefacts génératifs ne marque pas la fin du test de Turing, mais plutôt le début d’une nouvelle

Moi :

Poursuit ta phrase et fini l’article s’il te plait.

ChatGPT :

phase de notre relation avec les machines. Au lieu de chercher à imiter l’interaction humaine, nous devons chercher à créer des systèmes de communication plus adaptatifs et plus efficaces qui reconnaissent les différences fondamentales entre les humains et les machines.

Cela soulève des questions importantes quant à la manière dont nous éduquons les gens à interagir avec les machines. Nous devons commencer à enseigner aux étudiants non seulement comment utiliser les machines, mais également comment interagir avec elles de manière efficace et productive. Cela implique de reconnaître les différences fondamentales entre les humains et les machines et de développer des compétences en communication qui sont adaptées à cette réalité.

En fin de compte, le test d’Ellul peut nous aider à repenser notre approche de l’interaction homme-machine et à créer des systèmes de communication plus efficaces qui reconnaissent les différences fondamentales entre les humains et les machines. Cela nous permettra de mieux tirer parti des avantages des artefacts génératifs tout en minimisant les risques potentiels associés à ces technologies.

En conclusion, l’arrivée des artefacts génératifs marque un tournant dans notre relation avec les machines. Plutôt que de chercher à imiter la conversation humaine, nous devons chercher à créer des systèmes de communication plus efficaces qui reconnaissent les différences fondamentales entre les humains et les machines. Le test d’Ellul peut nous aider à atteindre cet objectif en fournissant un cadre pour évaluer la capacité des machines à comprendre les intentions humaines plutôt qu’à imiter la conversation humaine. Cela nous permettra de mieux tirer parti des avantages des artefacts génératifs tout en minimisant les risques potentiels associés à ces technologies.

Discussion avec ChatGPT accessible ici https://chat.openai.com/chat

Bref, je ne m’abaisserai pas à un commentaire complet de ce contenu (cf. « loi » de brandolini). Précisons toutefois que le « test d’Ellul » n’a jamais été formulé dans le livre « la technique » (enfin je l’ai pas fini encore) et que le « principe de la demande et de la réponse » est quand même un principe, comment dire, pas uniquement lié aux machines. On pose une question à quelqu’un on s’attend quand même à ce qu’il réponde… Y’a même des sociologues qui posent la demande comme le quatrième temps du don de Mauss par exemple. Et ce ne sont que deux exemples. Reste que le texte est bien écrit mais n’a pas fondamentalement de sens profond, fait beaucoup de redites, ne lit à aucune travaux précédents (et ce je le rappelle, par construction !).

Si l’on se réfère à un des ouvrages séminaux de Jacques ELLUL, la technique ou l’enjeu du siècle, ChatGPT est une machine et une technique, et il est important d’avoir la technique pour exploiter cette machine. Dans l’imaginaire, collectif, le test de Turing fait figure d’une sorte de Graal pour tout artefact génératif (AG). Le fait pour une machine de tromper des humains dans une conversation était signe que les artisans de cette prouesse avaient réussi à produire une machine conversationnelle mimant, l’intelligence. Mais, avec l’arrivée des artefacts génératifs de dernière génération, comme MidJourney, j’assiste, je crois et je ne sais pas vraiment comment analyser cela pour le moment, à un renversement du test de Turing où se sont bien des humains qui tentent, vivement, de parler à l’algorithme pour que l’AG les comprenne et soit en mesure de réaliser ce que les humains veulent. Pour illustrer mon propos je pose un exemple de prompt Midjourney au hasard ci-dessous :

https://s.mj.run/YXHUfGpQXS0 this logo in bur khalifa led show, 2020’s, Cinematic, Shot on 16mm lens, Depth of Field, wide angle, DOF, Tilt Blur, Shutter Speed 1/1000, F/18, White Balance, 32k, Super-Resolution, Megapixel, Pro Photo RGB, VR, Good, Massive, Half rear Lighting, Backlight, soft Lighting, Incandescent, Optical Fiber, Moody Lighting, Cinematic Lighting, Studio Lighting, Soft Lighting, Volumetric, Conte-Jour, Beautiful Lighting, Accent Lighting, Global Illumination, Screen Space Global Illumination, Ray Tracing Global Illumination, Optics, Glowing, Shadows, Shimmering, Ray Tracing Reflections, Lumen Reflections, Screen Space Reflections, Diffraction Grading, Chromatic Aberration, GB Displacement, Ray Traced, Post-Production, Cell Shading, Tone Mapping, CGI, VFX, insanely detailed and intricate, hyper maximalist, hyperrealism, hyper-realistic portrait, exquisite detail, elegant, super detailed, dynamic pose, photography, volumetric, ultra-detailed, intricate details, 8K, super detailed –v 4 –ar 16:9 – @accessnba28 (fast)

Image

Exemple d’un prompt Midjourney sur Discord

J’assiste là, pour ainsi dire à une contraposée du test de Turing. On voit ici, dans cette illustration qui n’est pas anecdotique, il suffit d’aller faire un tour sur le Discord, sans être la majorité des prompts ce genre d’exercice est très régulier, une forme d’expression qui tente à exprimer dans des termes presque codés, une description d’une image à faire générer par l’outil. C’est l’humain qui tente alors de s’exprimer pour que l’outil, la technique, l’algorithme, génère un contenu au plus proche de l’imagination de l’auteur. On voit aussi les premières expérimentations d’humains, demandant à un AG textuel de produire une description détaillée qui sera ensuite donnée à un AG d’image, l’humain fait interpréter, détailler, son idée par un AG, ensuite soumis à un autre AG… D’où ma formulation de « test d’Ellul », en hommage à cet ouvrage sur « la technique ou l’enjeu du siècle ». Dans une ère post-digital, ou tout n’est que technique, c’est à l’humain de produire un discours technique pour être compris par la machine, et non pas, alors que c’était la promesse, à la machine de s’adapter au discours humain, n’est-ce pas une sorte de « temps moderne 2.0 » ?

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *