Les conditions de notre évaluation de l’intelligence artificielle
On nous invite de plus en plus à juger nous-mêmes des avancées en intelligence artificielle en essayant les dernières versions des robots conversationnels développés par les grandes corporations informatiques ou en collaboration avec elles. Malheureusement, nous ne pouvons pas participer à une sorte de test de Turing, qui implique que nous ignorions si nous discutons avec une intelligence artificielle ou un être humain, et que nous puissions prendre l’intelligence artificielle pour un être humain ou un être humain pour l’intelligence artificielle. L’évaluation de l’intelligence artificielle ne se fait donc pas à l’aveugle, et notre jugement peut être fortement déterminé par nos préjugés positifs ou négatifs sur la possibilité et l’utilité d’une intelligence artificielle avancée et par nos stratagèmes, reconnus comme tels ou non, pour confirmer nos préjugés. Ceux d’entre nous qui sont influencés par la promotion de l’intelligence artificielle à laquelle nous sommes de plus en plus exposés, et qui voient d’un bon œil la prise en charge de nombreuses tâches par elle, tendent à être impressionnés ou enthousiasmés par les réponses et les répliques des robots conversationnels. À l’inverse, ceux qui sont rebutés par cette campagne publicitaire, et qui considèrent aussi avec méfiance ou crainte le rôle futur qu’on voudrait faire jouer à l’intelligence artificielle, tendent à être insatisfaits ou à se moquer des résultats obtenus. Dans ce contexte, il nous est difficile de rester impartiaux et de ne pas ménager ou malmener les robots conversationnels en fonction du résultat que nous désirons obtenir.
Une des choses que nous devons considérer quand il s’agit d’évaluer l’intelligence artificielle, c’est notre manière de concevoir l’intelligence. Je ne parle pas ici des théories psychologiques ou philosophiques sur la nature, les origines et les causes de l’intelligence, de la pensée, des idées ou des raisonnements. Ce dont je veux parler, c’est ce que nous valorisons en tant que manifestations d’intelligence chez les êtres humains et qui servira de point de référence pour évaluer l’intelligence artificielle, car nous croyons généralement que l’intelligence est le propre de l’être humain, du moins les formes avancées d’intelligence. Cependant, l’intelligence humaine peut se manifester de manières différentes selon les contextes sociaux et culturels, tout comme ces différentes manifestations peuvent être évaluées différemment en fonction de ces contextes.
Dans une société de chasseurs-cueilleurs du paléolithique, la connaissance des territoires de chasse et de cueillette, des propriétés des plantes et du comportement des animaux, la fabrication des outils, des armes et des habitations, la maîtrise du feu et les techniques de chasse devaient être considérées comme des manifestations d’intelligence et être valorisées en conséquence. Dans une société d’agriculteurs et d’éleveurs du néolithique, la connaissance du cycle agricole annuel et des techniques pour préparer et engraisser les sols, pour planter, récolter et conserver les céréales, les fruits et les légumes, et pour élever et dresser les animaux domestiqués a dû remplacer en grande partie la connaissance des territoires de chasse et de cueillette et des techniques de chasse en tant que manifestation d’intelligence. Dans une société guerrière de l’Antiquité, des chefs de guerre qui étaient capables d’organiser et d’entraîner les armées, de les faire manœuvrer sur le champ de bataille, de concevoir des tactiques et des stratégies de combat, d’avoir recours à des ruses de guerre, de s’adonner à une certaine forme de propagande et de faire des alliances pour les rompre au moment opportun, devaient être considérés comme détenteurs d’une forme d’intelligence très valorisée. Dans un milieu d’artisans du Moyen Âge, de la Renaissance ou de la Modernité, l’accent devait être mis sur la capacité à maîtriser et à perfectionner les procédés de fabrication et les outils, alors que dans un milieu lettré des mêmes périodes, l’emphase devait être mise sur la connaissance des œuvres littéraires et philosophiques, la compréhension des problèmes qu’elles posent et des controverses auxquelles elles donnent naissance, et la capacité à écrire des œuvres, à essayer de résoudre ces problèmes et à prendre part habilement à ces controverses.
Si nous pouvons toujours reconnaître la valeur de ces formes d’intelligence du passé dans nos sociétés laborieuses, industrialisées, bureaucratiques et hyper-médiatisées, ce n’est certainement pas ce à quoi nous pensons le plus souvent quand nous disons, ici et maintenant, qu’une autre personne est intelligente ou quand nous pensons être nous-mêmes intelligents. Nous sommes presque tous des employés qui doivent exécuter des tâches et atteindre des objectifs déterminés de manière assez stricte par des personnes qui occupent une position supérieure dans la hiérarchie. Pour ce faire, nous devons nous conformer à des règles, à des procédures et à des standards assez rigides qui sont élaborés par ces mêmes personnes ou d’autres. Si nous ne nous trouvons pas aux échelons inférieurs de la hiérarchie, cela fait partie de notre travail de veiller à ce que nos subordonnés exécutent les tâches et atteignent les objectifs conformément à ces règles, à ces procédures et à ces standards. Cela fait partie des tâches que nous devons réaliser pour atteindre les objectifs fixés par nos supérieurs, conformément aux règles, aux procédures et aux standards aussi élaborés ou imposés par eux. C’est là l’intelligence que nos employeurs et nos supérieurs hiérarchiques, et aussi nos collègues et nos subordonnés, attendent de nous.
Même dans les domaines de l’éducation, de la recherche et du savoir, cette conception générale de l’intelligence prévaut. Un bon élève ou un bon étudiant, c’est quelqu’un qui apprend ce qu’il doit apprendre et qui sait et sait faire ce qu’il doit savoir et savoir faire conformément aux normes du ministère de l’Éducation, des établissements d’enseignement, des programmes de formation, des départements et des facultés, et qui ne remet pas en question ce qu’il doit apprendre, savoir et savoir faire conformément à ces normes. Un bon enseignant ou un bon professeur, c’est quelqu’un qui enseigne conformément aux mêmes normes et qui ne les remet pas en question. Un bon chercheur, c’est quelqu’un qui se conforme aux procédures et aux formes académiques, qui répond aux exigences ou aux orientations des programmes de financement public ou privé et qui ne s’opposent pas aux idées reçues et aux pratiques intellectuelles dominantes. Un bon expert, c’est quelqu’un qui se conforme à ce qui passe pour admis dans son domaine d’expertise, qui travaille à faire connaître et à imposer ces idées reçues, et qui formule de manière convenue quelques critiques inoffensives, conformément aux exigences ou objectifs de ceux qui le consultent ou le financent. Dans ce contexte, un bon citoyen, c’est quelqu’un qui est informé de ce que disent les experts et les autorités, qui reprend les idées reçues qu’ils propagent, qui répète ce qu’il a appris pendant ses études, et qui formule de petites critiques convenues qui s’insèrent dans cette manière de penser et qui ne l’ébranlent pas. Bref, l’intelligence qui est attendue dans le cadre de ces fonctions ou de ces rôles est tout aussi standardisée et incompatible avec la réflexion et l’esprit critique que l’est l’intelligence attendue d’employés quelconques.
Dans nos sociétés, une personne est donc considérée suffisamment intelligente quand elle est capable de faire preuve d’un conformisme suffisant pour bien y fonctionner, même si elle réfléchit assez peu, ou précisément pour cette raison. Et un robot conversationnel est considéré comme doté d’une intelligence artificielle capable de rivaliser avec l’intelligence des êtres humains quand il est capable d’imiter, de reproduire ou de perfectionner les manières courantes de propager des savoirs convenus et des idées reçues, d’établir des relations entre ces savoirs et ces idées, de discourir à leur sujet et de formuler quelques critiques d’usage. Et c’est dans l’ordre des choses, puisqu’on ne peut pas raisonnablement exiger des robots conversationnels de la réflexion ou de l’esprit critique pour les considérer intelligents, alors que nos contemporains n’hésitent pas à se penser intelligents même quand ils ne réfléchissent pratiquement pas ou ne font pas preuve d’esprit critique.
Cette conception générale de l’intelligence très répandue et acceptée dans nos sociétés est donc celle qui est attendue des robots conversationnels par la plupart d’entre nous et à partir de laquelle on évaluera leur intelligence artificielle. Et l’objectif du travail des êtres humains qui développent et entraînent ces robots est vraisemblablement de leur procurer une intelligence artificielle conforme à cette conception répandue et assez limitée de l’intelligence qui existe chez beaucoup d’êtres humains, qu’ils partagent probablement dans une certaine mesure, et qu’on s’efforce d’inculquer aux êtres humains de toutes sortes de manières, afin qu’il y ait adéquation de l’intelligence artificielle avec l’intelligence humaine. C’est pourquoi plusieurs d’entre nous, qui sont imprégnés et se contentent de cette conception étroite ou minimale de l’intelligence, sont disposés à s’émerveiller des prouesses intellectuelles des robots conversationnels, de la même manière qu’ils se croient, eux et leurs semblables, parfaitement intelligents. Quant aux autres qui cherchent à montrer avec acharnement ou hargne l’infériorité incontestable et insurmontable de l’intelligence artificielle des robots conversationnels comparativement à l’intelligence des êtres humains, il n’est pas rare qu’ils idéalisent l’intelligence de ces derniers (y compris la leur) et qu’ils exigent de ces robots qu’ils se conforment à des exigences intellectuelles supérieures à celles auxquelles doivent se conformer les êtres humains (y compris eux) pour être considérés intelligents. C’est peut-être justement parce qu’ils sentent que ces robots peuvent de plus en plus prétendre à cette forme d’intelligence assez limitée et très répandue chez les êtres humains, et donc être des concurrents ou une menace pour eux, qu’ils s’efforcent de les rabattre sous eux. Et ils n’ont pas tort de se sentir menacés aussi longtemps qu’ils se contenteront d’une forme d’intelligence aussi limitée et même rudimentaire, puisque l’intelligence artificielle des robots conversationnels se perfectionne et peut déjà traiter rapidement et de manière standardisée d’importantes masses d’informations, d’écrits et de paroles. En effet, ces détracteurs ne pourront bientôt plus rivaliser avec ces robots, qui pourront les remplacer de manière avantageuse pour une foule de choses, à moins qu’ils ne se montrent plus exigeants intellectuellement vis-à-vis d’eux-mêmes et des autres êtres humains.
En raison de cette absence d’exigences intellectuelles élevées pour les êtres humains et de véritables tentatives individuelles ou collectives de s’en rapprocher, la distinction entre l’intelligence artificielle et l’intelligence humaine s’efface progressivement, puisque la seconde est de plus en plus facile à imiter ou à reproduire par la première. Alors que maintenant des êtres humains imprégnés de cette conception limitée de l’intelligence essaient de la programmer dans des robots conversationnels, l’inverse pourrait commencer à arriver bientôt, si ce n’est pas déjà fait : on pourrait commencer à programmer encore plus dans les êtres humains cette conception limitée de l’intelligence, avec les attitudes intellectuelles et morales qu’elle implique, à l’aide des robots conversationnels qu’on est en train de mettre au point et qui pourraient bientôt être chargés de les renseigner, de leur enseigner et de les guider. Cette conception de l’intelligence achèverait de s’imposer. L’intelligence artificielle et l’intelligence humaine se confondraient pour former un continuum au haut duquel serait la première et au bas duquel serait la deuxième, irrémédiablement déclassée et incapable de rivaliser quand il s’agit de jouer ces jeux intellectuels. Le défi pour les êtres humains, ce ne serait plus alors de programmer et d’entraîner une intelligence artificielle capable de réussir le test de Turing en se faisant passer pour un être humain, mais ce serait d’essayer, en vain, de devenir assez bons et assez rapides à ces jeux intellectuels convenus pour se faire passer pour une intelligence artificielle. À défaut de quoi, ils seraient traités comme des intelligences de deuxième ordre et verraient leur autonomie réduite en conséquence.
Jusqu’à maintenant, j’ai fait comme s’il y avait seulement d’un côté les êtres humains, et de l’autre les robots conversationnels dotés d’une intelligence artificielle. Mais des acteurs très importants de ce qui est en train de se passer sont les grandes corporations qui financent et dirigent le développement de l’intelligence artificielle et ses applications (dont les robots conversationnels), de même que les puissants oligarques qui contrôlent ces corporations. Ce n’est certainement pas pour nous faciliter la vie, rendre plus accessible le savoir et nous aider à bien nous informer que ces entités sinistres et ces lugubres personnages – qui se plaisent à passer pour des bienfaiteurs de l’humanité – mettent à notre disposition des robots conversationnels de plus en plus perfectionnés ; pas plus c’est pour notre simple commodité qu’ils nous ont fourni en masse des téléphones dits intelligents dont il est de plus en plus difficile de se passer et auxquels sont rendus dépendants plusieurs d’entre nous. Assurément, il serait encore plus facile pour ces élites de nous plier à leur volonté en nous imposant encore plus cette conception limitée et servile de l’intelligence humaine ou artificielle, en dégradant ainsi notre intelligence ou en l’empêchant de se développer, et en nous subordonnant à des robots conversationnels encore plus faciles à contrôler que les experts auxquels ils nous demandent maintenant de nous soumettre.