Il est légitime de formuler des critiques à l’égard de l’intelligence artificielle. Elle transforme le travail, l’éducation, les relations sociales et notre rapport au savoir. Elle consomme des ressources matérielles et énergétiques considérables, repose sur des infrastructures industrielles puissantes et peut renforcer certaines logiques de surveillance, de marchandisation, de standardisation et de mise en concurrence.
L’intelligence artificielle n’est donc pas un outil neutre, apparu par enchantement dans nos vies. Elle s’inscrit dans une organisation économique, technique et sociale qu’il est nécessaire d’interroger.
Mais une critique juste de l’intelligence artificielle doit aussi prendre garde à ce qu’elle produit socialement. À force de dénoncer les usages de l’IA, certains discours finissent par condamner, parfois sans le vouloir, les personnes qui y ont recours. La critique d’un système peut alors glisser vers le jugement moral des individus. Et ce glissement n’est pas anodin. Il peut prendre la forme d’un classisme, lorsqu’il méprise les pratiques des personnes populaires ou précaires, ou d’un validisme, lorsqu’il dévalorise les usages de l’IA par les personnes handicapées, neuroatypiques ou concernées par différents troubles dys.
La question n’est donc pas seulement de savoir si l’IA est bonne ou mauvaise. Il faut se demander ce qu’elle permet, ce qu’elle empêche, qui elle soutient, qui elle fragilise et dans quelle organisation sociale elle prend place.
La critique ne doit pas devenir une injonction à faire sans aide
Une partie des critiques adressées à l’intelligence artificielle repose sur une idée implicite, celle selon laquelle une personne véritablement compétente devrait produire seule, rapidement et sans assistance, ses textes, ses raisonnements, ses images ou ses démarches administratives.
Cette conception oublie que nous avons toujours utilisé des médiations. Nous écrivons avec des dictionnaires, des correcteurs orthographiques, des logiciels de dictée vocale, des cartes, des calculatrices, des traducteurs, des secrétaires, des enseignants, des bibliothèques et des logiciels de mise en forme. La question n’est donc pas de savoir si nous utilisons des outils, mais lesquels, dans quelles conditions et pour quels usages.
Pour certaines personnes dyslexiques, dyspraxiques, dysorthographiques ou présentant un trouble de l’attention, l’intelligence artificielle peut constituer une aide concrète. Elle peut permettre de reformuler une phrase, de structurer une idée, de corriger une erreur, de résumer un document long, de préparer un courrier ou de rendre une consigne plus accessible.
Elle ne supprime pas nécessairement l’effort. Elle peut simplement déplacer l’effort, en réduisant une charge qui n’a pas toujours de rapport avec la compétence réellement mobilisée.
Une personne dyslexique peut avoir une pensée riche, complexe et rigoureuse, tout en rencontrant de grandes difficultés lorsqu’il s’agit d’organiser cette pensée selon les normes de l’écrit scolaire ou professionnel. Confondre la difficulté à produire une forme avec une absence de fond revient à prendre la rampe d’accès pour le bâtiment lui-même. L’outil d’assistance ne crée pas forcément la capacité. Il peut permettre à cette capacité de devenir visible.
Bernard Stiegler, l’intelligence artificielle comme pharmakon
Le concept de pharmakon, développé notamment par Bernard Stiegler à partir de la pensée de Platon et de Jacques Derrida, permet d’éviter une opposition trop simple entre une technologie qui serait soit libératrice, soit aliénante. Le pharmakon désigne ce qui est à la fois remède et poison, selon les usages, les contextes et les conditions sociales de son emploi. (uclouvain.be)
L’écriture elle-même peut être pensée comme un pharmakon. Elle conserve la mémoire, rend possible la transmission et élargit le monde commun. Mais elle peut aussi affaiblir certaines capacités si elle devient un substitut intégral de la mémoire vivante, de la conversation ou de l’apprentissage.
Il en va de même pour l’intelligence artificielle. Elle peut devenir un poison lorsqu’elle remplace systématiquement le jugement, lorsque ses réponses sont considérées comme incontestables, lorsqu’elle capte notre attention, industrialise la production du langage ou transforme chaque activité humaine en donnée exploitable.
Mais elle peut devenir un remède lorsqu’elle permet à une personne empêchée d’écrire facilement de formuler sa pensée, à une personne épuisée de clarifier une démarche, à un public éloigné des institutions de comprendre un document etc. Le problème ne réside donc pas dans l’existence d’une médiation technique. Il réside dans la manière dont cette médiation est organisée. Est-elle choisie ou imposée ? Rend-elle plus autonome ou plus dépendant ? Permet-elle de développer une capacité ou se contente-t-elle de remplacer l’activité humaine ? Favorise-t-elle l’accès au monde commun ou renforce-t-elle la solitude face à des interfaces ?
Chez Stiegler, les objets techniques constituent aussi des formes de mémoire externalisée, ce qu’il appelle des rétentions tertiaires. Ils conservent, organisent et transmettent des traces au-delà de la mémoire individuelle. (costech.utc.fr) L’intelligence artificielle radicalise cette externalisation. Elle ne se contente plus de conserver des informations. Elle les classe, les reformule, les combine et les restitue à notre place, ou plutôt en interaction avec nous. Cette puissance est ambivalente. Elle peut soutenir l’individuation, c’est-à-dire permettre à une personne de développer sa singularité, mais elle peut aussi produire de la désindividuation si chacun se met à parler dans les mêmes formes, avec les mêmes tournures et les mêmes références.
Il faut donc défendre une pharmacologie sociale de l’IA, c’est-à-dire une politique et une culture des usages qui cherchent à réduire le poison et à cultiver le remède. Cela implique d’apprendre à utiliser ces outils sans leur abandonner notre capacité d’attention, de discernement et de création. Une IA véritablement émancipatrice devrait être conçue comme un support de capacitation, et non comme un dispositif destiné à rendre les personnes toujours plus adaptables aux exigences d’un système.
Le regard d’Edgar Morin, penser l’IA dans sa complexité
La pensée complexe d’Edgar Morin invite à se méfier des raisonnements qui séparent artificiellement ce qui est lié. Elle cherche à comprendre les interactions, les contradictions, les rétroactions et les effets émergents. Elle s’oppose à une pensée simplifiante qui isole les phénomènes pour mieux les juger. (intelligence-complexite.org)
Appliquée à l’intelligence artificielle, cette perspective conduit à refuser deux affirmations symétriques. La première consisterait à dire que l’IA va nécessairement libérer l’humanité. La seconde prétendrait qu’elle va nécessairement détruire l’intelligence, la création ou le lien social. La réalité est plus inconfortable. Une même technologie peut produire des effets opposés selon la personne qui l’utilise, l’institution qui l’impose, les ressources dont elle dispose et la finalité poursuivie. Pour une personne dys, l’IA peut réduire une situation de handicap. Dans une entreprise, le même outil peut servir à intensifier les cadences et à demander à cette personne de produire davantage, plus vite, sans reconnaissance supplémentaire. Pour un étudiant, elle peut soutenir la compréhension d’un cours. Dans une institution scolaire, elle peut aussi devenir un instrument de contrôle et de suspicion généralisée. Il faut donc regarder simultanément plusieurs dimensions, cognitive, sociale, économique, écologique, politique et affective.
Une approche simplificatrice demanderait : « Est-ce que l’IA aide ou est-ce qu’elle nuit ? »
Une approche complexe demanderait plutôt :
- À qui profite-t-elle ?
- Dans quel contexte intervient-elle ?
- Quelle difficulté vient-elle réellement résoudre ?
- Quelle nouvelle dépendance crée-t-elle ?
- Quelles capacités développe-t-elle et lesquelles risque-t-elle d’atrophier ?
- Quels effets produit-elle sur les relations entre les personnes ?
- Quelles normes rend-elle invisibles ou obligatoires ?
Cette approche est particulièrement importante lorsqu’il est question de handicap. Le handicap ne se réduit pas à une caractéristique individuelle. Il apparaît aussi dans la rencontre entre une personne et un environnement conçu selon certaines normes. Une difficulté d’écriture peut être renforcée par une école qui valorise exclusivement la rapidité orthographique. Une difficulté de concentration peut être aggravée par des environnements saturés de sollicitations. Une difficulté administrative peut être produite par des formulaires inutilement complexes. Dans cette perspective, l’IA peut parfois compenser une défaillance de l’environnement. Mais cette compensation ne doit pas nous empêcher de transformer l’environnement lui-même. Si une personne doit utiliser une IA pour comprendre un courrier administratif, il est utile de lui fournir cet outil. Mais il serait également nécessaire de se demander pourquoi le courrier est si difficile à comprendre.
Le validisme peut se dissimuler derrière l’éloge de l’effort
Il existe une forme de validisme lorsque l’effort visible devient le critère principal de la valeur. Il faudrait souffrir davantage pour mériter davantage. Il faudrait écrire lentement, produire des erreurs, surmonter des obstacles et démontrer sa fatigue afin que son travail soit reconnu comme authentique.
Or, l’effort n’est pas toujours un indicateur pertinent de la qualité. Une personne handicapée peut devoir déployer une énergie considérable pour accomplir une tâche qu’une autre réalise sans difficulté. Si un outil réduit cette dépense, cela ne signifie pas que la personne triche. Cela peut signifier qu’elle récupère une part de son énergie pour penser, décider, créer ou participer à la vie collective. Une synthèse vocale, une dictée, un logiciel de correction, un fauteuil roulant ou une prothèse ne sont pas des preuves d’infériorité. Ils sont des médiations qui rendent possible une présence au monde. Il en va parfois de même pour certains usages de l’intelligence artificielle. La valeur d’une pensée ne devrait pas être proportionnelle à la quantité d’obstacles qu’une personne a dû franchir pour la formuler.
Byung-Chul Han, la société de la performance et la fatigue
Le regard de Byung-Chul Han est également pertinent, notamment pour penser la relation entre l’IA, la performance et l’épuisement. Dans son analyse de la société de la fatigue, il décrit une époque où la contrainte ne passe plus seulement par une autorité extérieure. Elle est souvent intériorisée par les individus, qui se demandent eux-mêmes d’être plus rapides, plus efficaces, plus disponibles et plus performants. (cdft.cnam.fr)
L’intelligence artificielle peut alors devenir un nouvel instrument de cette auto-exploitation. Puisqu’il est désormais possible de produire plus vite, il devient tentant de considérer que l’on doit toujours produire davantage. L’outil qui devait libérer du temps risque alors de remplir tout le temps disponible.
Cette critique est particulièrement importante pour les personnes handicapées ou dys. Leur recours à l’IA ne devrait pas être interprété comme une obligation à rejoindre le rythme dominant. Il ne faudrait pas que l’outil, d’abord conçu pour réduire une difficulté, devienne ensuite un moyen d’exiger une performance équivalente à celle des personnes qui ne rencontrent pas cette difficulté. Une société inclusive ne devrait pas dire : « Puisque vous disposez maintenant d’une aide, vous devez faire deux fois plus. » Elle devrait plutôt dire : « Puisque cet outil vous permet de participer plus librement, comment pouvons-nous faire en sorte que votre participation soit reconnue sans vous imposer une nouvelle course ? »
Han permet également de questionner le rêve d’une transparence totale. Les outils numériques tendent à rendre nos activités, nos préférences, nos formulations et nos comportements toujours plus lisibles pour les organisations qui les contrôlent. Or, une société qui exige que tout soit mesurable risque de ne plus savoir accueillir ce qui est lent, ambivalent, fragile ou inachevé. L’intelligence artificielle peut faciliter l’expression d’une personne, mais elle ne doit pas devenir un dispositif qui surveille continuellement sa manière de penser, d’apprendre ou de travailler.
Ne pas confondre accessibilité et adaptation forcée
Il serait insuffisant de présenter l’intelligence artificielle comme un outil naturellement émancipateur. Elle peut faciliter l’accès à certaines ressources, mais elle peut aussi renforcer les normes dominantes.
Une IA entraînée sur des données produites par une société inégalitaire risque de reproduire ses biais. Elle peut mal comprendre les personnes dys, les accents, les formes d’expression atypiques ou les expériences minoritaires. Elle peut favoriser une écriture standardisée, lisse et conforme aux attentes institutionnelles. Dans certains cas, elle risque même de transformer l’accessibilité en adaptation forcée aux normes existantes. L’enjeu n’est donc pas seulement de permettre aux personnes différentes de mieux entrer dans le monde tel qu’il est. Il faut aussi se demander si ce monde mérite d’être conservé tel quel.
Si une personne dys doit utiliser une IA pour répondre à des exigences rédactionnelles absurdes, peut-être faut-il également modifier ces exigences. Si un salarié doit automatiser une partie de son activité pour tenir des objectifs intenables, le problème ne réside peut-être pas uniquement dans son organisation personnelle, mais dans le rythme imposé par l’institution. L’outil peut aider à franchir un obstacle, mais il ne faut pas oublier de regarder qui a construit l’obstacle et à qui il profite.
Pour une critique située, sociale et relationnelle
Critiquer l’intelligence artificielle est nécessaire. Mais cette critique ne peut pas se contenter de défendre une conception ancienne de l’humain, fondée sur la performance individuelle, la maîtrise des normes et la capacité à fonctionner sans assistance. L’humain n’est pas celui qui n’a besoin de rien. Il est celui qui peut entrer en relation avec des supports, des techniques et des autres, sans que cette interdépendance soit vécue comme une honte. Nous sommes tous soutenus par des outils, même si certains soutiens sont plus visibles que d’autres.
Une critique sociale cohérente devrait donc :
- distinguer l’outil de l’organisation qui le déploie ;
- écouter les personnes concernées par le handicap et les troubles dys ;
- reconnaître la diversité des manières de penser et de communiquer ;
- refuser que l’accessibilité serve à intensifier la performance ;
- garantir des alternatives humaines et non numériques ;
- protéger les données personnelles et les expressions minoritaires ;
- développer une culture du discernement plutôt qu’une culture de la dépendance ;
- évaluer les effets sociaux et écologiques de l’IA dans leur ensemble.
La technologie ne retissera pas à elle seule le lien social. Elle peut même contribuer à l’effilocher lorsqu’elle remplace la relation par l’automatisation, l’écoute par la prédiction et la coopération par la compétition. Mais elle peut aussi devenir un fil parmi d’autres, à condition de ne pas oublier que le tissu collectif se mesure à la place qu’il laisse aux fragilités, aux différences et aux manières plurielles d’habiter le monde.
Une vigilance qui ne fabrique pas de nouveaux exclus
La véritable question n’est pas seulement de savoir si l’intelligence artificielle nous rend plus autonomes ou plus dépendants. Il faut demander, plus précisément, qui gagne en pouvoir, qui en perd, qui peut choisir, qui est contraint, qui est entendu et qui reste invisible.
Le concept de pharmakon nous rappelle que l’IA peut être à la fois remède et poison. La pensée complexe nous invite à observer ses effets contradictoires, sans les réduire à un jugement binaire. Le regard de Byung-Chul Han nous alerte sur le risque que l’outil de libération devienne une nouvelle machine à produire de la fatigue. Ces trois perspectives convergent vers une même exigence, ne pas demander aux individus de s’adapter silencieusement à des systèmes qui les épuisent. Les outils doivent être évalués à partir de leurs effets sur les capacités réelles d’agir, sur la dignité, sur la relation aux autres et sur la possibilité de mener une vie qui ne soit pas entièrement organisée par la performance.
Une critique bienveillante de l’IA devrait chercher à limiter la marchandisation, la surveillance, la standardisation et la destruction des savoir-faire, tout en défendant l’accès aux outils qui permettent à des personnes minorées de prendre part au monde. Elle devrait combattre les systèmes qui réduisent les individus à leur productivité, sans combattre les individus qui cherchent simplement des moyens de vivre, de travailler et de s’exprimer avec un peu moins d’obstacles. Car l’émancipation ne consiste pas à supprimer toutes les médiations. Elle consiste à pouvoir choisir celles qui nous soutiennent, à comprendre les dépendances qu’elles créent et à participer collectivement à la transformation du monde auquel elles nous relient.