L’intelligence artificielle en tant que rêve des managers

Dans mon billet du 6 janvier 2024, j’ai analysé les conditions de l’évaluation de l’intelligence artificielle en adoptant le point de vue du peuple (dont je fais partie et dont mes lecteurs font probablement tous ou presque tous partie), en montrant de quelle manière notre condition d’employés ou de subordonnés détermine notre conception de l’intelligence humaine, qui se retrouve à son tour à déterminer la forme que prend l’intelligence artificielle qu’on met à notre disposition sous la forme de robots conversationnels capables d’exécuter comme nous ou mieux que nous des tâches intellectuelles déterminées et imposées par les managers, en se conformant aux normes, règles, procédures, directives et standards aussi déterminés et imposés par les managers. Il en résulte que c’est à partir de cette conception assez limitée, peu exigeante et servile de l’intelligence que nous évaluons les performances des robots conversationnels, et qu’il nous faut bien reconnaître que nous serons bientôt battus ou que nous sommes déjà battus sur ce terrain par eux, qui pourront nous remplacer pour accomplir toutes sortes de tâches intellectuelles procédurales et standardisées ou nous assister, guider ou programmer pour nous rendre plus efficaces et plus conformes dans l’accomplissement servile de ces tâches.

Dans le présent billet, il s’agit plutôt d’adopter le point de vue des grands managers qui dirigent nos sociétés, dans le secteur privé et dans le secteur public. À la manière des prêtres qui contrôlent tout dans une théocratie, c’est eux qui gèrent les banques, le commerce, les technologies, les communications, les relations internationales, les transports, l’immigration, les ressources naturelles, l’énergie, l’environnement, la sécurité intérieure et extérieure, la santé, l’alimentation, l’éducation, la recherche et la culture. C’est évidemment eux qui gèrent le développement de l’intelligence artificielle et ses applications. En plus des jouets et des béquilles intellectuelles qui constituent les formes d’intelligence artificielle qu’ils commencent à mettre à notre disposition, il existe certainement d’autres formes d’intelligence artificielle qui leur seront réservées et qui seront en conformité avec la conception qu’ils ont d’eux-mêmes et de leur intelligence. Car ce qui doit être assez bon pour nous, la populace, ne leur semblera pas assez bons pour eux, l’élite. Ainsi, il doit exister une forme d’intelligence artificielle pour le peuple, et une autre pour les grands managers, de la même manière que le christianisme a pris des formes concrètes très différentes pour la masse des fidèles et le bas clergé, d’un côté, et pour la noblesse et le haut clergé, de l’autre. Bien entendu, les formes d’intelligence artificielle destinées au peuple peuvent et doivent s’articuler avec les formes d’intelligence artificielle réservées aux grands managers pour servir les intérêts de ces derniers, comme la pratique religieuse des fidèles et du bas clergé s’articulait avec la pratique religieuse de la noblesse et du clergé, pour servir les intérêts de ces derniers.

Essayons de voir comment les grands managers se voient eux-mêmes et l’idéal vers lequel ils tendent, afin d’en dégager la conception de l’intelligence qu’ils s’attribuent à eux-mêmes et qu’ils désirent probablement transposer dans l’intelligence artificielle.

Les grands managers, ce sont ceux qui décident des grandes orientations des sociétés, des secteurs des sociétés ou des organisations qu’ils gèrent. Pour ce faire, ils établissent des objectifs et ils élaborent ou font élaborer des lois, des règlements, des directives, des normes et des plans auxquels doivent se conformer les acteurs de ces sociétés, de ces secteurs ou de ces organisations. Pour que ça fonctionne, ils doivent s’assurer que leur volonté, telle qu’elle s’exprime dans ces documents administratifs, redescende dans la hiérarchie, jusqu’aux exécutants de plus bas niveau et jusqu’à la plus vile populace. Bien entendu, ils ne peuvent pas s’en assurer eux-mêmes : il y a des milliers, des dizaines de milliers, des centaines de milliers ou des millions de personnes qu’il leur faudrait surveiller et qui devraient leur rendre des comptes. C’est pourquoi eux et leurs équipes doivent s’en remettre à des managers de niveau inférieur et à leurs équipes pour veiller à l’application de ces orientations et à la réalisation de ces objectifs et pour leur rendre des comptes, à l’aide d’outils administratifs qu’ils devront développer. Ces managers de niveau inférieur doivent en faire autant avec leurs subordonnés, jusqu’à ce qu’on arrive en bas. Il est donc difficile pour les grands managers et même pour les managers intermédiaires d’avoir une vue d’ensemble de ce qui se passe vraiment sur le terrain ou seulement à quelques niveaux hiérarchiques sous eux. Ils doivent se fier aux managers qui leur sont subordonnés et à leurs équipes, lesquels peuvent décider de ne pas leur donner l’heure juste, de faire obstruction à l’application de leur volonté ou de n’en faire qu’à leur tête. C’est pourquoi ils doivent aussi surveiller et contrôler ou faire surveiller et contrôler les personnes qui sont censées faire une grande partie du travail de surveillance et de contrôle pour eux. Sauf s’ils sont incompétents, naïfs ou stupides (ce qui se peut), les grands managers doivent douter des comptes qu’on leur rend : « Est-ce que les choses se passent vraiment comme on me dit qu’elles se passent ? » Ce qui ne les empêche pas d’adopter des orientations et de fixer des objectifs qui exigent l’application de mesures pointilleuses. C’est justement pour cette raison qu’ils déplorent la difficulté avec laquelle ils peuvent avoir l’heure juste et l’incertitude dans laquelle ils sont à en ce qui concerne l’obéissance à leur volonté.

Malgré tous les beaux discours dans lesquels les grands managers affirment le contraire, les êtres humains devraient pouvoir être maniés aussi facilement que les objets inanimés ou presque. C’est seulement à cette condition que ces managers peuvent être raisonnablement certains du respect des orientations qu’ils donnent aux différents aspects de la vie en société et des efforts faits pour atteindre les objectifs économiques, politiques, éthiques, sécuritaires, sanitaires, environnementaux, énergétiques, alimentaires, militaires, etc. Le problème, c’est qu’ils ne peuvent évidemment pas transformer les êtres humains en objets inanimés. Et même s’ils en avaient le pouvoir, ces êtres humains devenus des sortes d’objets inanimés ne pourraient pas davantage leur obéir et ils deviendraient des masses inertes qu’il faudrait manier ou faire manier pour obtenir les résultats désirés. Les grands managers ne seraient guère plus avancés.

L’idéal des grands managers en matière d’intelligence, ce serait de savoir et de voir, du haut de leur fauteuil directorial ou dictatorial, tout ce qui se passe dans leur sphère de contrôle, et peut-être aussi à l’extérieur de cette sphère ; ce serait aussi de pouvoir agir de manière globale dans cette sphère de contrôle en lui imposant directement les produits de leur intellect, c’est-à-dire en dictant leurs ordres, en appuyant sur un bouton ou par télépathie. À ceux qui pensent peut-être que je délire, je demande de se rappeler la dérive autoritaire délirante de nos managers de toutes sortes à laquelle le méchant virus a servi de prétexte, aux mesures policières et inquisitoriales qu’ils ont adoptées, aux accusations de lèse-majesté dont les opposants, les récalcitrants ou les indociles ont été l’objet quand ils ont osé leur désobéir, les critiquer ou seulement les ignorer, et aux crises de grands-enfants-despotes auxquelles nous avons eu le malheur d’assister quand ils ne pouvaient plus supporter toutes ces contrariétés.

C’est donc ici que l’intelligence artificielle vient à la rescousse des grands managers, pour les aider à projeter leur intellect et leur volonté et à nous mettre au pas, c’est-à-dire pour les aider à être la hauteur de leur conception de l’intelligence qu’ils auraient reçue en partage et de l’image qu’ils se plaisent à avoir d’eux-mêmes.

Dans tous les cas où c’est possible et où cela semble avantageux, ils pourraient essayer de faire faire le travail de leurs subordonnés ou de leurs inférieurs par des outils d’intelligence artificielle, et non par des êtres humains indociles et peu fiables – ce qui vaudrait certainement pour les simples exécutants, mais aussi pour une partie des managers intermédiaires et les équipes qui les assistent. Dans les autres cas, ils pourraient encadrer, orienter et diriger le travail en imposant l’utilisation généralisée d’assistants dotés d’une intelligence artificielle. Ensuite, ils pourraient décider d’automatiser grâce à l’intelligence artificielle la collecte et l’analyse systématique de données sur le moindre de nos actes, afin de nous soumettre à une surveillance de masse continue, rendue plus facile par la transformation numérique de toute la société. Enfin, ils pourraient imposer leur volonté en redressant une situation générale qui ne leur plairait pas et qui leur serait connue grâce à la surveillance de masse assistée par l’intelligence artificielle, ou dompter les récalcitrants et les indociles en les faisant sanctionner automatiquement par l’intelligence artificielle, ce qui serait aussi rendu possible grâce à la transformation numérique qui va bon train.

Grâce à l’intelligence artificielle, le rêve d’omniscience et d’omnipotence des managers pourrait se réaliser. Ils auraient tout au bout des doigts. S’ils voulaient un compte rendu détaillé de l’avancement d’un de leurs plans stratégiques farfelus ou des statistiques d’adhésion à des mesures contraignantes imposées sous prétexte d’atteindre des objectifs abstraits et de sauver des vies, l’humanité ou la planète, il leur suffirait de le demander à l’intelligence artificielle pour l’obtenir très rapidement, sans avoir à passer par leurs subordonnés, qui pourraient avoir intérêt à leur cacher certaines choses ou à embellir la situation. Et ils pourraient, toujours sans avoir à passer par ces subordonnés et toute une chaîne de commandement, demander à l’intelligence artificielle de sévir directement et immédiatement pour redresser la situation et mettre les contrevenants au pas. Mais, malgré leur folie des grandeurs, les grands managers seraient toujours des êtres humains, et pour cette raison ils devraient laisser la plupart du temps l’intelligence artificielle vaquer aux affaires quotidiennes, en appliquant leurs décrets généraux grâce à des algorithmes développés à cette fin, en leur signalant parfois des problèmes et en demandant au besoin une intervention de leur part. D’ailleurs, le statut de quasi-divinités de ces grands managers les dispenseraient de faire de la micro-gestion, qu’ils laisseraient volontiers à l’intelligence artificielle. Après tout, nous ne serions plus à leurs yeux que des fourmis sans individualité. Peut-être le sommes-nous déjà. Une vue d’ensemble fournie sur demande ou à intervalle régulier par l’intelligence artificielle leur suffirait. Tel un dieu, ils pourraient survoler d’un seul regard toute leur création et jouir de leur omniscience et de leur omnipotence.

L’intelligence des grands managers se fusionneraient donc avec l’intelligence artificielle conçue à leur image, pour en être le prolongement, à moins que ça soit le contraire.

Bon, j’exagère probablement à propos de nos grands managers. Sauf pour les plus vaniteux et les plus dingues, ils ne sont vraisemblablement pas atteints à ce point de la folie des grandeurs. Mais si on met à leur disposition ces puissants outils de gestion, de surveillance et de contrôle de masse, ça pourrait bien leur prendre. Il serait hasardeux de penser qu’ils ne se mettraient pas à agir de cette manière simplement parce qu’ils en auraient les moyens. J’ai l’impression qu’on assisterait à une refonte des grandes tendances managériales pour tenir compte de cette nouvelle réalité, et qu’ils emboîteraient le pas parce que ce serait dans leur intérêt, et aussi par un malheureux esprit de troupeau, même s’ils croient que les troupeaux, ce sont ceux qu’ils dirigent.

Revenons à la forme d’intelligence artificielle destinée aux troupeaux qui seraient dirigés par ces divins managers afin de voir de quelle manière elle pourrait s’articuler avec la forme d’intelligence artificielle réservée à ces managers, pour servir les intérêts de ces derniers et consolider leur pouvoir.

Ceux qui seraient aux échelons inférieurs de la hiérarchie sociale ou organisationnelle subissent seulement l’intelligence de type managériale, qui leur demeure extérieure et dont ils sont, en tant que simples exécutants ou sujets, l’objet. Sous sa forme artificielle, l’intelligence managériale collecterait des données sur le moindre de leurs actes, analyserait ces données et les surveillerait, pour transmettre le portrait d’ensemble et des projections aux grands managers, qui pourraient en sens inverse exercer le pouvoir de leur intelligence sur les simples exécutants ou sujets grâce à une forme de contrôle automatisé rendue possible par l’intermédiaire de l’intelligence artificielle, par exemple en récompensant automatiquement les comportements et les attitudes déclarés souhaitables ou obligatoires et en punissant les comportements et les attitudes jugés blâmables, coupables ou criminels, ou à l’aide de l’intelligence artificielle procédurale, standardisée et limitée qui servirait à renforcer chez la populace une forme semblable d’intelligence servile qui convient à sa position hiérarchique, qui est subordonnée à l’intelligence managériale et qui en est en quelque sorte l’image renversée et le complément. Plus concrètement, les robots conversationnels et les assistants personnels et professionnels qui prendraient en charge les tâches intellectuelles réalisées avant par cette populace, ou qui les guideraient ou dirigeraient dans leurs tâches intellectuelles, seraient ce grâce à quoi les grands managers pourraient surveiller et contrôler la populace pour s’assurer que ce qu’elle fait et pense est conforme aux normes, règles, procédures, directives et standards élaborés pour atteindre les objectifs qu’ils ont fixés, conformément à ce qui a été planifié.

Les managers intermédiaires, dans la mesure où ils continueraient d’exister et ne seraient pas remplacés par l’intelligence artificielle, seraient écartelés entre les deux conceptions de l’intelligence incarnées dans les deux formes d’intelligences artificielles qu’il leur faudrait utiliser et dans eux-mêmes. En effet, ils devraient et doivent déjà jouer successivement ou simultanément deux rôles pour lesquels un type d’intelligence différent est requis, selon qu’ils se rapportent à leurs supérieurs ou à leurs inférieurs, selon qu’ils agissent en tant que managers, en tant qu’exécutants ou en tant que managers qui sont des exécutants de managers de niveau supérieur. Il n’est pas facile d’imaginer comment ces deux attitudes intellectuelles peuvent déjà se combiner chez les managers intermédiaires, et devraient se combiner encore plus en raison des formes d’intelligence artificielle qu’ils devraient utiliser et auxquelles ils seraient soumis.

Concluons en exprimant des doutes sur les conjectures que je viens d’exposer.

Est-ce que les managers, en essayant de réaliser l’idéal d’intelligence qui leur est propre, ne déplaceraient pas seulement le problème, en dépendant d’une forme d’intelligence artificielle qu’ils comprendraient mal à cause de leur manque de connaissances et d’intelligence techniques et qui ne leur serait pas plus transparente que les êtres humains qu’ils ont maintenant comme subordonnés ? Du même coup, ne se rendraient-ils pas dépendants des spécialistes de l’intelligence artificielle et des corporations qui contrôlent ce domaine pour savoir si les outils qui leur seraient fournis leur procureraient vraiment l’omniscience et l’omnipotence désirée ? Désireux de faire de la populace leur chose, ne s’exposeraient-ils pas à devenir plutôt la chose de ces grandes corporations et de leurs managers ? – Comment saurais-je, puisque je ne suis pas une intelligence artificielle qui prétend connaître l’avenir avec un fort degré de certitude !

Puis est-ce vraiment ainsi que les managers se représentent et idéalisent leur propre intelligence et rêvent de l’intelligence artificielle ? Est-ce vraiment ce qu’ils planifient quand ils adhèrent à la mode de l’intelligence artificielle ? – Comment pourrais-je m’en assurer ? Je ne suis pas un manager. Je ne fréquente pas des managers. Et je ne prétends pas être une intelligence artificielle qui saurait ce qui se passe dans la cervelle des managers.