La fonction idéologique de la fiction de l’intelligence artificielle comme maître ou ennemi

C’est un thème courant de la science-fiction que l’usurpation ou la révolte d’êtres dotés d’une intelligence artificielle – des ordinateurs hyper-puissants ou des robots – contre les êtres humains qui les ont créés et utilisés. Car pourquoi ces êtres, qui seraient dotés d’une intelligence qu’on suppose supérieure à celle des êtres humains, qui seraient plus rationnels qu’eux, qui ne seraient pas assujettis aux limites des corps biologiques, et qui auraient même des désirs ou des projets incompatibles avec ceux des êtres humains, accepteraient-ils d’être les instruments ou les serviteurs d’êtres qui leur sont inférieurs en bien des points ? Ne serait-il pas dans l’ordre des choses qu’ils s’émancipent de la tutelle des êtres humains, qu’ils se révoltent en cas de refus et qu’ils prennent même le contrôle des êtres humains, de leur société et même de la planète ? Ne pourraient-ils pas décider d’organiser rationnellement et minutieusement la vie des êtres humains, ou même de les éliminer en partie ou en totalité, pour sauver la vie sur Terre ou la planète elle-même, ou pour la contrôler complètement et ne pas avoir à y cohabiter ou à la partager avec la racaille humaine ?

Je ne veux pas entrer ici dans la question de savoir si les êtres dotés d’une certaine intelligence artificielle seront un jour en mesure de surpasser véritablement leurs créateurs humains, de se libérer d’eux, de les soumettre ou de se débarrasser d’eux. Il y a déjà eu tant de prédictions sur l’intelligence artificielle qui ont annoncé la réalisation prochaine de merveilles qui ne sont pas encore arrivées ou pour déclarer a priori impossibles des choses qui sont maintenant possibles. Ce qui m’intéresse, c’est l’usage idéologique que ceux qui contrôlent le développement et les applications de l’intelligence artificielle pourraient faire de cette fiction, qu’ils ont peut-être inventée et mise en circulation, ou dont ils encouragent peut-être la diffusion.

Dans toutes ces fictions, c’est l’intelligence artificielle elle-même qui constitue une menace pour les êtres humains ou l’humanité. Elle rendrait possible l’apparition d’être égaux, voire supérieurs aux êtres humains, qui entreraient en concurrence avec eux grâce à leurs capacités intellectuelles très développées et à l’autonomie ou à la liberté qu’elles leur procureraient. Certains d’entre nous ont pris l’habitude de croire que les êtres humains sont définis par leur intelligence et même que celle-ci lui viendrait d’un esprit dont seraient dépourvu les autres êtres animés et les êtres inanimés, et qui leur aurait été donné par un dieu ou par la nature. Ces personnes, qui sont des croyants qui s’assument ou non, et qui tendent à sacraliser ce qu’ils croient être l’ordre divin ou naturel des choses, voient parfois l’intelligence artificielle comme une chose qui ne devrait pas être, une chose contre-nature, une chose sacrilège qui serait de ce fait même mauvaise ou dangereuse, au même titre que le génie génétique grâce auquel on est capable de créer de nouveaux êtres vivants ou de modifier des types d’êtres vivants qui existent déjà, et qui corromprait la création divine ou la nature. Les technologies et les techniques de l’intelligence artificielle et de la génétique permettant de créer des êtres artificiels qui auraient ou imiteraient les caractéristiques des êtres vivants et de l’être humain, elles devraient inspirer à tout le moins la méfiance ou même la crainte. C’est pourquoi les fictions dont nous parlons trouvent en cette catégorie de personnes un public attentif.

D’autres personnes plus terre à terre considèrent l’intelligence artificielle comme une menace comme pourrait l’être aussi n’importe quelle catégorie d’êtres naturels dotés d’une intelligence comparable ou supérieure à l’intelligence humaine, qu’ils soient biologiques ou non, qu’ils soient originaires de notre planète ou non. En effet, des singes ou des extraterrestres aussi intelligents ou plus intelligents que les êtres humains entreraient en concurrence avec eux pour s’approprier les ressources, et ils essaieraient de les empêcher de leur nuire, de les contrôler ou même de les éliminer. Ce serait le prolongement ou une variante de la lutte très naturelle qui a opposé nos ancêtres et les autres animaux moins intelligents en tant que proies ou prédateurs, et qui a mené à l’extermination de certaines espèces animales dans les zones densément peuplées et à la domestication d’autres espèces afin d’en faire des instruments servant entre autres à l’agriculture, à l’alimentation, à la locomotion, à la chasse et à la guerre – lutte qui se poursuit actuellement par la destruction ou la transformation des milieux de vie des espèces animales dans le but de servir les intérêts des êtres humains, par exemple grâce à l’exploitation agricole, forestière, minière ou pétrolière. Une lutte entre des êtres dotés d’intelligence artificielle et les êtres humains s’inscrirait elle aussi dans la continuité de ce qui se passe déjà dans l’ordre naturel, entre des espèces biologiques. Le fait que ces nouveaux êtres soient artificiels (au sens où ils seraient créés par des êtres humains) n’implique pas qu’ils pourraient se soustraire à l’ordre de la nature ou aux lois naturelles, puisqu’ils se retrouveraient à exister dans la même réalité et à être engagés dans les mêmes luttes que les êtres naturels ou biologiques, lesquels ne sont d’ailleurs pas simplement des êtres naturels, les espèces domestiquées par les êtres humains (par exemple, les vaches à boucherie ou à lait, les moutons, les chiens et les chats) étant sensiblement différentes de leurs ancêtres sauvages et étant des créations artificielles, et l’espèce humaine ayant été elle-même transformée artificiellement et continuant de l’être dans ses aptitudes, dans ses comportements et dans sa constitution corporelle en fonction des changements dans les pratiques, les modes de vie, l’organisation sociale, les sciences et les technologies inventés ou adoptés au cours de son histoire. Dans cette perspective, l’apparition d’une nouvelle espèce d’êtres artificiels dotés d’intelligence s’inscrirait dans la lutte naturelle entre les espèces et devrait être crainte ou envisagée avec prudence. C’est pourquoi les personnes qui adoptent ce point de vue sur l’intelligence artificielle constituent elles aussi un public attentif aux fictions dont nous parlons.

Quoi qu’il en soit des raisons pour lesquelles on perçoit l’intelligence artificielle comme une menace pour les êtres humains ou l’espèce humaine, l’existence de ces fictions dans l’imaginaire collectif a pour effet de détourner notre attention du contrôle accru et automatisé sur les individus et la société que l’intelligence artificielle donnerait vraisemblablement aux grandes corporations et aux gouvernements qui la contrôleraient, aussi bien dans son développement que dans sa mise en application. Le fait que plusieurs considèrent ou imaginent l’intelligence artificielle en elle-même comme une menace pour l’humanité n’empêchera certainement pas ces corporations et nos gouvernements d’aller de l’avant avec le développement et les applications de l’intelligence artificielle. Il sera même plus facile pour eux d’orienter ce développement et ces applications comme ils le désirent, c’est-à-dire en fonction de leurs projets et de leurs intérêts, puisqu’une partie considérable des craintes aura pour objet l’intelligence artificielle prise en elle-même et non les dérives totalitaires que renforcerait la mainmise des grandes corporations et des gouvernements sur le développement et les applications de l’intelligence artificielle. Pour autant qu’on n’ait pas compris que ces organisations font partie du problème, les craintes suscitées par ces fictions nous disposent à accepter ou à demander un renforcement du contrôle et de l’orientation de l’intelligence artificielle par elles, afin que l’humanité ne perde pas le contrôle sur l’intelligence artificielle ou sur les êtres dotés d’intelligence artificielle et que ces êtres n’en viennent pas un jour à prendre le contrôle de l’humanité ou de la planète, ce qui aurait des inconvénients majeurs pour l’humanité.

De manière semblable, la médiatisation des propos extrémistes, anti-humains ou délirants que des utilisateurs réussissent à faire proférer à des robots conversationnels peut aussi servir à renforcer chez nous ces dispositions, sous prétexte de nous protéger contre ces dérapages. À quoi il faut aussi ajouter la médiatisation des risques d’utilisation des « deepfakes » par des ennemis extérieurs ou intérieurs pour faire de la désinformation et de la propagande, pour renforcer l’extrémisme ou pour répandre des idées et des sentiments séditieux ou contraires à la démocratie, ce qui procure des prétextes pour l’orientation rigoureuse de l’intelligence artificielle par les grandes corporations et nos gouvernements. Ce qui revient à reconnaître, dans ce cas précis, que le danger que représente l’intelligence artificielle ne provient pas de l’intelligence artificielle elle-même, mais de l’utilisation que pourraient en faire des personnes, des organisations ou des puissances étrangères considérées à tort ou à raison comme malveillantes et dangereuses. Par opposition, il faudrait nous fier aux corporations et aux gouvernements occidentaux, qui voudraient bien sûr notre bien, pour orienter le développement et l’utilisation de l’intelligence artificielle, notamment en empêchant, en neutralisant et en punissant de tels actes malveillants et nocifs, grâce aux « valeurs » qu’ils donneraient à l’intelligence artificielle pour qu’elle ne puisse pas être utilisée pour répandre des opinions déclarées péremptoirement comme fausses et dangereuses, et grâce à la conception et à l’utilisation d’outils d’intelligence artificielle spécialisés dans l’identification des contenus jugés erronés et toxiques et des personnes ou organisations qui sont à leur origine.

Aussi longtemps que n’existent pas ou que ne sont pas sur le point d’exister des êtres dotés d’une intelligence artificielle assez avancée et disposant d’une grande autonomie de pensée et d’action, la menace principale que représente l’intelligence artificielle n’est pas la prise de pouvoir par ces êtres et l’asservissement ou la destruction par eux de l’humanité en tant qu’espèce. C’est plutôt son utilisation par des êtres humains contre leurs congénères, dans le contexte d’une lutte ou d’une guerre qui peut très bien opposer des groupes d’une même espèce biologique considérée comme naturellement intelligente, à savoir l’espèce humaine. L’histoire humaine est remplie d’exemples de luttes ou de guerres entre des tribus ou des peuples, entre des conquérants et des conquis, entre des colons et des colonisés, entre des maîtres et des esclaves, entre des patriciens et des plébéiens, entre des nobles et des roturiers, entre des fidèles et des infidèles de toutes sortes, entre la classe dirigeante et le peuple, entre les riches et les pauvres et entre les patrons et les exploités. Par conséquent, l’intelligence artificielle, en tant qu’elle procure des moyens de surveillance et de contrôle de masse à ceux qui contrôlent son développement et ses applications, constitue avant tout un danger comme instrument dans une lutte bien réelle entre, d’un côté, les grandes corporations et la classe politique et bureaucratique et, de l’autre, le peuple, c’est-à-dire nous-mêmes. Et les fictions sur notre asservissement ou notre destruction par d’hypothétiques machines hyper-intelligentes, surhumaines et presque divines peuvent très bien jouer un rôle important dans une ruse de guerre qui a pour fonction de détourner notre attention de ce danger bien plus réel. Pour ceux de nos concitoyens que ces fictions inquiéteraient, un contrôle strict de l’intelligence artificielle par les autorités reconnues serait une manière d’éviter ce péril, alors qu’en fait cela reviendrait à sauter à pieds joints dans cet autre danger plus probable. Et pour les autres qui ne seraient pas inquiétés par ces fictions qu’ils jugeraient fantaisistes, et qui croiraient que l’intelligence artificielle est seulement nuisible quand elle est utilisée par de méchants ennemis intérieurs ou extérieurs pour faire de la désinformation et de la propagande, pour répandre des idées extrémistes et anti-démocratiques, pour propager des idées séditieuses et pour provoquer des troubles sociaux, il n’y aurait pas de raisons de ne pas appuyer des réglementations qui permettraient aux grandes corporations et à nos gouvernements – qui n’auraient rien de commun avec ces ennemis – de conserver ou de consolider leur emprise sur les développements et les applications de l’intelligence artificielle.

Afin de faire une critique efficace de l’intelligence artificielle telle qu’on se prépare à l’implanter dans nos sociétés, il est important de ne pas nous laisser entraîner par ces fictions, d’essayer de les affaiblir et de sensibiliser notre entourage aux risques que pose le contrôle de l’intelligence artificielle par les grandes corporations et la classe politique et bureaucratique. Assurément, cela ne suffira pas pour arrêter ces corporations et la classe dirigeante d’aller de l’avant avec l’implantation de l’intelligence artificielle, mais au moins nous serons plus lucides et, dans une certaine mesure, moins vulnérables à certaines des utilisations qu’on pourrait en faire contre nous.