Transformation numérique et atrophie intellectuelle et sentimentale (2)
Dans mon billet du 5 décembre 2023, j’ai analysé les modifications de nos mœurs, surtout dans notre vie personnelle et au travail, qui ont été rendues possibles par des technologies (le téléphone, la messagerie électronique et les textos) assez récentes quand on considère l’histoire de l’humanité ou de notre civilisation dans son ensemble, mais qui semblent avoir toujours existé pour nous qui sommes nés après leur invention et leur diffusion ou qui sommes tellement habitués à elles que nous avons de la difficulté à concevoir ce que pouvait être la vie avant elles. C’est pourquoi nous avons tendance à ignorer l’atrophie de notre intelligence et de nos sentiments qui résultent des manières d’utiliser les plus fréquentes ces technologies, soit que ces dernières favorisent ces utilisations par leur nature même, soit que ces utilisations soient favorisées par le contexte social et culturel dans lequel elles s’inscrivent.
Dans le présent billet, je dirigerai plutôt mon regard vers l’avenir ou vers ce que nous pouvons en entrevoir quant à l’utilisation de l’intelligence artificielle dans notre vie personnelle et au travail. Il s’agira de nous demander, parmi les utilisations qu’on annonce déjà ou que nous pouvons anticiper, en quoi consistent les risques de dégradation intellectuelle et sentimentale, les sentiments étant beaucoup plus liés à nos aptitudes intellectuelles et à nos idées qu’on ne le pense souvent, et vice versa. Nous verrons que, si nous nous mettons à utiliser bêtement l’intelligence artificielle pour tout faire, cette dégradation risque de s’accélérer. Comment en serait-il autrement si nous n’utilisons pas plus intelligemment l’intelligence artificielle et les puissants moyens qu’elle mettra à notre disposition ?
Dans notre vie personnelle
Une des utilisations de l’intelligence artificielle dans notre vie personnelle dont on nous parle le plus, c’est le fait de se faire assister par une certaine forme d’intelligence artificielle – un assistant personnel (voir mon billet du 20 novembre 2023) – pour planifier et organiser les différents aspects de notre vie et pour communiquer avec nos proches. Non seulement un tel assistant personnel devrait nous aider à faire tout ce qui se passe en ligne, mais aussi à planifier et à organiser en ligne ce qui ne se passe pas en ligne, comme des voyages, des repas au restaurant, des activités culturelles et sportives et des rencontres avec des amis ou de la famille.
Commençons par l’assistance quant à la planification et à l’organisation des différents aspects de notre vie personnelle. Ne nions qu’il pourrait être commode, pour plusieurs d’entre nous, d’avoir à leur disposition un assistant capable de leur proposer des loisirs susceptibles de les intéresser, en fonction des préférences qui semblent se dégager de l’analyse de la navigation en ligne, des courriels reçus et envoyés, de ce qui est dit dans les appels audio et vidéos et de l’activité sur les réseaux sociaux, le tout en tenant compte de l’emploi du temps, des ressources financières et du lieu de résidence de chaque personne. Mais justement parce que cela serait commode et nous faciliterait la vie, nous devons nous méfier des effets que cela pourrait avoir sur nous. De la prise en charge de nos temps libres par un tel assistant, il résulterait une grande passivité intellectuelle et sentimentale. Nous réfléchirions alors assez peu à ce que nous désirons et aux moyens de réaliser nos désirs, et encore moins à la transformation de nos désirs par des influences extérieures ou par nous-mêmes, dans le cadre d’un projet de perfectionnement de nous-mêmes. Il suffirait de choisir parmi des possibilités qu’on nous présenterait et qui seraient susceptibles de nous convenir, avec la possibilité de faire des réservations, de s’inscrire ou d’acheter des billets immédiatement, c’est-à-dire sans réflexion sur ce que nous désirons, sur les effets de ce que nous désirons sur nous et sur les désirs que nous aimerions avoir en fonction de l’évaluation de ces effets. Et même quand nous refuserions de choisir simplement parmi des possibilités que nous proposerait notre assistant personnel et quand nous lui dirions ce que nous désirons après y avoir réfléchi afin qu’il trouve les moyens de réaliser nos désirs, nous serions alors dispensés de chercher et d’exercer notre jugement pour trouver ce que nous désirons, cette recherche et cet exercice du jugement pouvant aussi être une occasion de réévaluer nos désirs et de les transformer dont nous serions alors privés par l’intervention de cet assistant personnel. En faisant gérer les aspects de notre existence et notre propre personne par cet assistant, ce sont nos aptitudes intellectuelles et sentimentales qui seraient moins sollicitées et qui s’atrophieraient, ce qui aurait pour effet un aplatissement de notre existence et une sclérose de notre personne. Et ça serait encore pire si notre assistant personnel intervenait pour nous proposer, à la suite de l’analyse de toutes les données qui nous concernent, des choix susceptibles d’affecter notre existence à long terme ou même des plans de vie ou prétendaient nous apprendre sur notre compte des choses que nous ignorerions (par exemple notre orientation ou notre identité sexuelle) et nous guider dans nos efforts pour vivre conformément à ces révélations.
Abordons maintenant une autre tâche pour laquelle notre assistant personnel devrait nous aider : la lecture des courriels que nous recevons de nos proches et l’écriture des courriels que nous leur envoyons, de même que les autres messages écrits qui nous sont adressés par eux et qui nous leur adressons, par exemple des publications sur les réseaux sociaux. Notre assistant personnel pourrait nous faire un résumé de chaque courriel reçu et préparer pour nous une réponse que nous pourrions envoyer rapidement et avec un minimum d’efforts de lecture et d’écriture et de réflexion. Il pourrait faire un survol des publications faites par nos « amis » sur les réseaux sociaux et nous proposer des réactions que nous pourrions envoyer tel quel ou avec quelques modifications. Les messages traités par notre assistant personnel ou rédigés par lui en notre nom nous resteraient en grande partie étranger, un peu comme la correspondance prise en charge par un secrétaire reste étrangère à tel personnage important. Le fait de laisser à cet assistant le soin de lire et d’écrire à notre place réduirait considérablement ce qui est lu ou écrit par beaucoup de nos concitoyens, ce qui pourrait mener à une dégradation importante de leurs aptitudes de lecture et d’écriture. Ce serait aussi leur capacité à exprimer directement leurs propres sentiments et à comprendre ceux des autres directement qui serait diminuée, ainsi que la capacité à sympathiser avec eux. Ce serait même le désir de faire tout ça ou d’en avoir la capacité qui se dissoudrait, puisqu’on saurait que les messages qu’on lit ne seraient pas principalement écrits par des êtres humains et que ceux qu’on écrit ne seraient pas principalement lus par d’autres êtres humains, mais par les assistants personnels de ces êtres humains, dépourvus de sentiments ou, pour ceux qui croiraient que l’intelligence artificielle est dotée de sensibilité, dépourvus des sentiments des personnes avec lesquelles on communique. En effet, quand ces échanges écrits factices et convenus entre des intelligences artificielles et non des personnes humaines finiraient par devenir la norme, on se donnerait de moins en moins la peine de s’engager intellectuellement et affectivement dans ce qu’on lit et écrit. Ce qui serait probablement aggravé par le fait que le recours à l’intelligence artificielle pour lire et écrire des courriels et des publications faites sur les réseaux sociaux pourraient avoir pour effet d’accélérer la vitesse à laquelle on écrirait et enverrait ces courriels et ces publications, et du même coup d’augmenter leur nombre considérablement. Pour ne pas être submergé par ces courriels et ces publications et pour donner l’impression qu’on ne les ignore pas simplement, il serait nécessaire d’avoir recours à l’intelligence artificielle pour répondre et réagir, et de se contenter d’un simulacre de communication qui atrophierait nos aptitudes intellectuelles et nos sentiments.
Au travail
L’assistant personnel que nous utiliserions au travail – le même ou un autre que dans notre vie personnelle – pourrait organiser nos journées et nos semaines de travail, et même planifier à notre place le travail que nous avons à faire à plus long terme. Il déciderait quand nous devons faire ceci ou cela, combien de temps nous devons passer à faire ceci ou cela, sous prétexte d’optimisation du travail et de respect des priorités et des échéanciers. Il pourrait nous envoyer des rappels automatisés et même nous rappeler à l’ordre quand nous ne respectons pas l’emploi de temps qu’il a préparé pour nous, si tel est le désir de notre employeur. Les employés qui se laisseraient ainsi prendre en charge par leur assistant personnel auraient tôt fait de perdre une partie importante de leur capacité à prévoir, de leur mémoire et de leur esprit d’initiative, pour devenir de plus en plus des personnes qui exécutent ce que prévoit leur assistant personnel et qui dépendent de l’intelligence artificielle.
Cet assistant pourrait aussi servir à gérer notre correspondance par messagerie électronique, à faire des résumés des messages reçus et à préparer des réponses pour nous, ce qui aurait des effets semblables à ceux qui se produisent dans notre vie personnelle, mais avec un accent mis sur la dégradation des aptitudes intellectuelles plutôt que sur les sentiments, à moins que les milieux de travail deviennent encore plus semblables aux milieux familiaux, et qu’il faille s’occuper quotidiennement des états d’âme de ses collègues, de ses supérieurs et de ses subordonnés, au lieu d’entretenir avec eux des relations plus strictement professionnelles – ce qui est de plus en plus difficile.
Puis cet assistant personnel pourrait aussi être mis à contribution pour faire des recherches dans les documents administratifs qui se multiplient dans nos milieux de travail de plus en plus bureaucratiques (dans le secteur public et dans le secteur privé), pour les analyser, pour en faire la synthèse, pour en collecter des extraits ou pour en rédiger de nouveaux qui seront soumis au même traitement par les assistants personnels des autres employés et des gestionnaires. Cela s’appliquerait aux comptes rendus de réunion, aux rapports, aux plans stratégiques, aux prévisions budgétaires, aux suivis des dépenses, aux directives, aux procédures, aux formulaires numériques, aux cartographies des processus, aux devis, aux contrats, etc. Nous pourrions nous dire que le mal ne serait pas si grand puisque la lecture et l’écriture de ces documents sont particulièrement assommantes et détériorent les capacités intellectuelles ou entravent leur développement. Le fait de nous en remettre sur ce point à notre assistant personnel ne nous laisserait-il pas plus de temps et d’énergie pour cultiver notre intelligence et ne libérerait-il pas notre esprit, à tout le moins pour ceux qui désireraient le faire ? Cela se peut. Mais il faut aussi prendre en considération le foisonnement, la complexification et l’amélioration continue des productions bureaucratiques que faciliteraient les assistants personnels et les autres formes d’intelligence artificielle, et dans lesquelles les travailleurs devraient essayer de se retrouver à l’aide des assistants personnels dont ils deviendraient de plus en plus dépendants et dont le fonctionnement leur serait incompréhensibles. Ce qui se passerait alors dans les milieux de travail aurait tôt fait de devenir opaque et même inintelligible pour les personnes qui y travaillent, car c’est une chose de comprendre soi-même en observant ce qui se passe autour de soi et en faisant soi-même des recherches, et c’en est une autre de devoir constamment se laisser guider par des assistants personnels et de se faire mâcher le travail par eux, comme un enfant qui doit se faire tout expliquer par ses parents, ou comme un fidèle qui se fait expliquer par des prêtres le pourquoi du comment des mystères qui l’entourent. Puisqu’en vertu de l’idéologie du travail nous sommes dans l’obligation de passer l’essentiel de notre vie adulte au travail, puisque nous devons passer notre jeunesse à nous préparer à cette existence laborieuse, il en résulte que les effets nuisibles du recours à l’intelligence artificielle dans les milieux du travail ne resteraient pas cantonnés dans ces milieux de travail. Les travailleurs s’habitueraient à ne pas comprendre par eux-mêmes ou à ne pas comprendre tout court ce qui les entoure, et aussi à ne pas avoir le désir de comprendre, au travail et ailleurs qu’au travail, car les désirs sont considérablement déterminés par ce qu’il est possible ou impossible de faire, car ils ne disparaissent pas simplement quand on quitte les lieux où ils se sont formés, car ils tendent alors à se rattacher à d’autres objets qui renforcent des désirs semblables. Ça devient alors du bon sens et de la sagesse de ne plus essayer de comprendre et de s’y retrouver, de ne pas avoir le désir de le faire et de ne pas regretter que ça ne soit pas possible. Même les programmeurs informatiques, qui dépendent de plus en plus en plus de l’intelligence artificielle et dont les compétences seraient diminuées par cette dépendance, n’échapperaient pas à ce sort, puisque la complexité croissante des logiciels et des systèmes informatiques développés à l’aide de l’intelligence artificielle, ainsi que l’intelligence artificielle elle-même et ses applications, les empêcherait de bien comprendre ce qui devrait appartenir à leur domaine d’expertise et affaiblirait leur désir de bien comprendre, au travail et ailleurs qu’au travail.