Salut et bienvenue dans notre nouvel épisode de la Tech à l’Envers, le média qui s’intéresse à l’envers de la Tech pour en développer un usage responsable et respectueux de notre vie privée. Je m’appelle Clément Donzel et suis expert en cybersécurité et défenseur de notre vie privée numérique.
Dans son livre Les IA à l’assaut du cyberespace, le chercheur et maître de conférence à l’université de Nantes Olivier Ertzscheid s’intéresse à l’impact de l’Intelligence Artificielle sur notre langage et à la manière dont Internet serait en train de basculer d’un Web sémantique vers un Web synthétique.
Émergence d’un Web synthétique
Dès le début de l’ouvrage, Olivier Ertzscheid nous rappelle que dans nos univers numériques, les bots et les agents IA sont déjà responsables de plus de la moitié de la production de contenu sur Internet ; et ont de plus le potentiel d’influencer la manière dont nous interagissons et dont nous nous informons au quotidien. La généralisation des IA serait de nature à impacter la structuration même du Web.
Pour Tim Berners-Lee, considéré comme l’inventeur du web, le web sémantique avait comme objectif de faciliter l’accès à l’information nous ouvrant les portes de la connaissance, grâce à des liens hypertextes et à des ordinateurs connectés entre eux. On l’écoute lors d’une présentation TED réalisée en 2009
[EXTRAIT AUDIO]
Mais avec l’IA, nous basculerions donc du web sémantique que nous connaissons actuellement à un web synthétique, ou le naturel des échanges et des informations serait en train de disparaitre au profit d’interactions avec les machines (bots, agents IA, ou encore algorithmes etc…).
Ce même Web synthétique serait également à l’œuvre dans l’ombre d’usines à l’autre bout du monde, à Madagascar, aux Philippines, au Kenya, ou se trouvent des travailleurs qui à l’instar de l’industrie textile, œuvrent dans des conditions précaires pour que les agents conversationnels soient de mieux en mieux « contrôlés » et « modérés ». À l’opposé du grand récit techno-solutionniste qui voudrait nous faire croire que « l’intelligence artificielle » serait une forme de transcendance qui n’aurait besoin d’aucune intervention ou régulation humaine.
Les dangers d’un Web synthétique sur la cognition
Pour le journaliste du Monde Philippe Mérieu, le danger majeur de ChatGPT réside dans le rapport aux connaissances que promeut un robot conversationnel conçu pour donner le sentiment de parler à un humain et qui inverse complètement le sens de la relation pédagogique. En donnant des réponses immédiates et objectives, ChatGPT aboliraient ainsi la dynamique du questionnement, et comblerait ainsi le désir de savoir en tuant le désir d’apprendre au lieu de susciter des interrogations pour libérer des préjugés. Des études récentes menées par Dominguez et son équipe en 2024 ont également indiquer des risques de délestage cognitifs quant à l’utilisation de ces outils, ayant la capacité de réorganiser nos connexions neuronales. C’est-à-dire ayant le potentiel de fragiliser notre capacité de raisonnement, de logique et d’apprentissage… Pour le dire autrement, un usage régulier de ChatGPT, Gemini, Claude ou autre Anthropic pourrait faire de nous des imbéciles.
En nous fiant de manière inconsidérée aux systèmes numériques qui fonctionnent sur la base de mise en équations probabilistes, ce que la chercheuse en IA, Timnit Gebru nomme « perroquet stochastique », alors ce qui fonde notre libre arbitre et notre capacité de choix est menacée et entravée. Pourtant, le rôle du langage est constitutif de nos sociétés et l’un des éléments les plus essentiels.
Le père de la sociobiologie Edward Osborn Wilson ne disait pas autre chose dans les origines de la créativité en nous rappelant qu’aucune espèce animale, du moins aucune sur plus d’un million connue, n’a de langage. Les linguistes le définissent comme la forme la plus élevée de communication, une combinaison infinie de mots traduisibles en symboles, et (c’est la partie importante) choisie arbitrairement pour conférer un sens.
Arbitrairement, c’est-à-dire loin des modèles statistiques sur lesquels fonctionnent les artefacts génératifs, ce qui donne à l’espèce humaine son caractère d’unicité.
Le linguiste Noam Chomsky considéré comme le père de la grammaire générative et transformationnelle déclarait dans un récent entretien accordé au New York Times : L’esprit humain n’est pas, à l’instar de ChatGPT et de ses semblables, un moteur statistique encombrant destiné à la recherche de modèles, se nourrissant de centaines de téraoctets de données et extrapolant la réponse conversationnelle la plus probable ou la réponse la plus vraisemblable à une question scientifique. Au contraire, l’esprit humain est un système étonnamment efficace et même élégant qui fonctionne avec de petites quantités d’information; il ne cherche pas à déduire des corrélations brutes entre les points de données, mais à créer des explications.
Pour cette raison, si les artefacts numériques pourront contribuer à augmenter la créativité humaine, il ne pourront jamais s’y substituer.
Les IA à l’assaut du cyberespace est un ouvrage d’Olivier Ertzscheid à découvrir chez C&F éditions.
C’est tout pour aujourd’hui.
Si vous avez aimé cette chronique, n’hésitez pas à la partager autour de vous et à nous laisser un commentaire sur votre plateforme de podcast préféré ! En effet, par conviction, la Tech à l’Envers n’est que peu présente sur les réseaux sociaux et on a besoin de vous pour sensibiliser le plus grand nombre afin de favoriser une Tech plus éthique et responsable.
Merci pour votre écoute et à la semaine prochaine pour un nouvel épisode de la Tech à l’Envers.
