Perte de contrôle de la technologie et contrôle grâce à la technologie
Étant donné la transformation numérique que nous préparent nos gouvernements et leurs partenaires du secteur privé, la situation peut être résumée ainsi : plus nous perdrons le contrôle direct ou indirect des technologies qui joueront un rôle de plus en plus important dans nos vies, dans nos sociétés et dans nos institutions, plus c’est nous qu’on contrôlera grâce à ces technologies. Les caractéristiques des technologies numériques et aussi la manière dont on les fait adopter sont donc des facteurs importants qui détermineront dans quelle mesure nous serons contrôlés et dans quelle mesure il nous sera possible de résister à ce contrôle et de garder ou reprendre le contrôle.
Complexité des technologies
Plus une technologie est complexe et requiert des compétences avancées et du matériel dispendieux pour être maîtrisée et développée, plus il est difficile pour nous de la contrôler. C’est pourquoi ce qui est à la fine pointe de l’électronique et de l’informatique peut difficilement être contrôlé par nous, par opposition aux technologies mécaniques et électriques plus anciennes et plus simples. S’il est vrai que nous ne pouvons pas tous être des mécaniciens et des électriciens, certains d’entre nous peuvent l’être et peuvent donc comprendre l’entièreté du fonctionnement des véhicules et des circuits et des appareils électriques, et les réparer avec des outils, des pièces et des composantes qu’il est assez facile d’acheter ou de réutiliser. Au fur et à mesure qu’on a mis dans ces appareils et ces systèmes des composantes électroniques et qu’on les a intégrés à des systèmes électroniques et informatiques plus grands, plus il est devenu difficile pour certains d’entre nous de comprendre comment ils fonctionnent, sauf assez partiellement ou superficiellement, et plus nous dépendons de grandes corporations pour les maintenir en état de marche, soit en les réparant, soit en les remplaçant.
Par exemple, si nous voulons faire refaire le système électrique de notre domicile, nous pouvons faire affaire avec de petits entrepreneurs auxquels nous faisons confiance et avec lesquels nous pouvons traiter comme avec des égaux. Nous n’avons pas à avoir recours aux produits et aux services d’une grande corporation dont nous avons de bonnes raisons de nous méfier, et qui use de son contrôle sur des technologies complexes pour nous imposer des choix avant tout pris pour servir ses intérêts. À l’inverse, pour tous ceux d’entre nous qui ne sont pas capables de monter et d’administrer un serveur pour y héberger des services de domotique, la seule solution est d’utiliser des machins et des logiciels mis en marché par de grandes compagnies comme Google et Amazon afin de contrôler l’ouverture des portes, les caméras de surveillance, la température, l’humidité, l’éclairage, les électroménagers et le téléviseur. Et quand ces technologies seront remplacées par une intelligence artificielle capable de prendre en charge tous les appareils et tous les dispositifs d’un domicile et d’assister ses habitants dans leurs activités quotidiennes, il faudra forcément utiliser les technologies fournies par de grandes corporations, puisqu’il sera hors de question d’élaborer soi-même une intelligence artificielle et de la faire fonctionner avec des appareils fabriqués par ces grandes corporations ou en collaboration avec elles, ou avec appareils que nous fabriquerions nous-mêmes. Dans le meilleur des cas, il serait possible d’installer localement une instance d’une intelligence artificielle fournie par une grande corporation et de choisir quelques paramètres, mais sans savoir ou comprendre comment fonctionne cette intelligence artificielle et tout ce qu’elle fait en plus de ce à quoi elle est censée servir.
La situation s’aggraverait encore quand l’intelligence artificielle ne réglerait plus seulement les petites choses de la vie à l’échelle individuelle ou familiale, mais servirait à déterminer les grandes orientations de la société ou de l’humanité et aussi leurs applications à petite ou à grande échelle, selon des algorithmes et des données qui nous seraient inconnus et, de toute façon, qu’il nous serait souvent impossibles de bien comprendre en raison de leur complexité, de leur nombre, de leur opacité et de leur obscurité. Les dirigeants et les spécialistes des grandes corporations qui contrôleraient et prétendraient comprendre les intelligences artificielles constitueraient une sorte de clergé qui serait l’interprète de ces nouvelles divinités qui devraient demeurer incompréhensibles et impénétrables aux profanes que nous sommes. On comprendra que, si les riches et les puissants de ce monde et leurs laquais ont recours à ces créations technologiques pour nous imposer des révélations et nous faire taire, le peu qui reste de nos institutions démocratiques et de notre esprit critique sera remplacé par des institutions beaucoup plus autoritaires et par la foi et la docilité.
Facilité d’utilisation
Si les nouvelles technologies qui ont déjà été mises en marché depuis une quinzaine d’années ou qui le seront d’ici quelques années étaient difficiles d’utilisation en raison de leur complexité, au moins elles ne se répandraient pas comme une traînée de poudre, dans notre vie et dans nos sociétés. Car s’il fallait des compétences techniques avancées et une compréhension approfondie de leur mode de fonctionnement, ces technologies pourraient seulement être utilisées par des spécialistes et dans des contextes bien précis. Elles ne pourraient alors pas plus faire leur entrée dans notre vie quotidienne et dans les milieux sociaux que nous fréquentons qu’une version miniature, civile et relativement abordable du F-35. Par le fait même, ces technologies que nous ne pourrions pas utiliser pourraient difficilement servir à exercer un contrôle continu sur nous.
Mais il en va autrement : les nouvelles technologies numériques tendent à devenir de plus en plus faciles à utiliser et à demander de moins en moins de compréhension, de réflexion et de compétences techniques de la part des utilisateurs. On dirait que, justement, on fait des efforts pour les rendre faciles à utiliser à proportion qu’elles sont difficiles à concevoir, à comprendre, à fabriquer, à améliorer, à entretenir et à réparer. Ces efforts peuvent même contribuer à les rendre plus complexes et plus difficiles à comprendre pour nous, et ce, pour plusieurs raisons :
Ce que n’ont pas à faire les utilisateurs doit être fait par ces technologies, ce qui les rend souvent plus complexes.
Le retrait de certaines possibilités pour les utilisateurs, sous prétexte de faciliter l’utilisation, les prive d’éléments nécessaires à la compréhension même partielle du fonctionnement de ces technologies.
Les utilisateurs s’habituent à employer des technologies sans essayer de comprendre leur fonctionnement et ont la fausse impression de comprendre quand ils sont seulement capables de les utiliser de manière conventionnelle et limitée, pour faire ce qu’il est normal ou habituel de faire. Ce qui les dispose à accepter des technologies encore plus faciles à utiliser et encore plus incompréhensibles pour eux.
Un utilisateur moyen de Windows 10 ou de Windows 11 comprend généralement moins bien comment fonctionne ce système d’exploitation qu’un utilisateur moyen d’une distribution de Linux qui procède lui-même à l’installation et la configuration du système d’exploitation. Tout comme un utilisateur moyen d’un téléphone « intelligent » comprend généralement moins bien comment marche Android ou iOS qu’un utilisateur du même niveau de Windows comprend le fonctionnement de ce système. Tout comme un utilisateur moyen d’un ordinateur ou d’un téléphone où une intelligence artificielle ferait une grande partie de ce que doivent faire actuellement les utilisateurs comprendrait encore moins le fonctionnement de l’appareil qu’il utilise. Il est donc à craindre que les nouvelles technologies numériques sacrifient encore plus la compréhension à la facilité d’utilisation, qu’elles se répandront très facilement pour cette raison, et qu’elles seront souvent plus complexes et encore plus souvent incompréhensibles pour les utilisateurs qui ne jurent que par la facilité d’utilisation. Et le contrôle exercé sur nous grâce à ces technologies sera d’autant plus grand qu’elles seront littéralement partout, que leur fonctionnement demeura opaque pour nous, que les grandes corporations pourront avoir sur elles un contrôle exclusif, et que l’écart entre le clergé de la technologie (ceux qui comprennent ou prétendent comprendre) et les profanes se creuserait, les premiers devenant moins nombreux et les seconds, plus nombreux.
Élimination des technologies concurrentes
Si, pour ceux d’entre nous qui le désirent, il demeurait possible de continuer à utiliser des technologies dont le mode de fonctionnement est plus simple et plus facile à comprendre, et dont l’utilisation est moins facile et exige une certaine compréhension de leur fonctionnement et certaines compétences techniques, nous pourrions souvent éviter d’utiliser les technologies sur lesquelles nous n’avons à peu près pas de contrôle et grâce auxquelles on exercera sur nous un contrôle croissant. Hélas ! ce n’est pas la tendance que nous observons.
Il est à peu près impossible de trouver une voiture qui peut simplement être conduite. On y trouve maintenant des régulateurs de vitesse, un système de freinage assisté, un service de géolocalisation et un système de détection des obstacles ; il y a des caméras qui assistent les conducteurs quand ils font marche arrière ; les téléphones intelligents peuvent être intégrés à l’ordinateur de bord pour prendre ou faire des appels téléphoniques et bien d’autres choses encore, grâce à des applications spécialisées ; etc. Et des systèmes capables de remplacer les conducteurs, de surveiller les signes de fatigue et d’inattention et d’analyser en continu les signes biométriques se répandent. En d’autres termes, nous contrôlons de moins en moins nos voitures, qui sont de plus en plus contrôlées par les grands fabricants de voitures.
Les téléphones cellulaires et plus particulièrement les téléphones dits intelligents sont pratiquement venus à bout des lignes téléphoniques en quelques années. En plus des campagnes de marketing, les compagnies de télécommunication ont incité leurs clients à abandonner cette technologie plus ancienne en en augmentant le prix de manière significative et en réduisant les tarifs de la téléphonie mobile, qui peut être combinée avec la télévision et l’internet. Les employeurs prennent pour acquis que leurs employés ont un téléphone mobile pour être rejoints facilement pour faire un remplacement de dernière minute, pour les aviser d’un retard imprévu de 15 ou de 30 minutes ou pour s’authentifier quand ils font du télétravail. Dans un contexte de pénurie de logements et de hausse accélérée des loyers, les sociétés immobilières s’attendent à pouvoir contacter les locataires potentiels très rapidement, pour faire une visite des appartements ou pour signer en vitesse un bail de location après l’étude de crédit, et passent au suivant quand ils n’ont pas une réponse en moins de quelques heures. Et pour appeler un taxi, la norme est de plus en plus d’utiliser une application mobile, et je me demande s’il est encore possible de téléphoner pour ce faire. Si bien que ceux d’entre nous qui n’ont toujours pas de téléphones dits intelligents pour pouvoir recevoir et faire des appels n’importe quand, ou envoyer et lire des courriels et des textos, sont pratiquement handicapés. On peut s’attendre à ce que, dans quelques années, la téléphonie résidentielle, y compris la téléphonie IP, disparaisse.
Quant aux ordinateurs (y compris les téléphones dits intelligents), des intelligences artificielles pourraient remplacer bientôt les interfaces auxquelles nous sommes habitués et contrôler une grande partie de ce que nous pourrons et ne pourrons pas faire en ligne ou hors ligne, en fonction des critères des concepteurs et de l’analyse de nos comportements antérieurs, qui seraient bien sûr rendus disponibles aux grandes corporations informatiques, sous prétexte d’améliorer ces intelligences artificielles et de nous offrir des produits et des services plus adaptés à nos besoins. À moins d’utiliser des distributions de Linux ou de BSD – à condition qu’elles ne suivent pas cette mode technologique, en raison des pressions exercées par les grandes corporations qui les financent ou qui interviennent dans le développement des noyaux et des interfaces –, bonne chance pour contrôler vraiment ce qui se passe sur nos ordinateurs, pour les utiliser comme nous le désirons et pour ne pas être limités ou déterminés dans ce que nous pouvons faire dans la réalité physique en fonction de ce que nous pouvons faire sur notre ordinateur, par exemple monter le chauffage, démarrer la climatisation, prendre une douche d’une vingtaine de minutes, faire un voyage ou une simple promenade nocturne, acheter de la nourriture que nous aimons ou des produits non essentiels, aller au restaurant, au café ou à la bibliothèque, assister à des cours en présentiel, prendre connaissance et discuter d’idées divergentes sur des problèmes moraux, sociaux ou politiques, ou protester contre des mesures gouvernementales autoritaires.
Ah ! que nous en viendrons bientôt à regretter l’époque où il nous suffisait de tourner une clé, de faire le plein d’essence, d’appuyer sur l’accélérateur et sur les freins, de manier le bras de vitesses et de regarder dans les rétroviseurs ainsi que les panneaux et les feux de circulation pour conduire une voiture ! Que nous nous ennuierons de l’époque où nous n’étions pas constamment pressés et talonnés à cause d’appels téléphoniques, de textos ou de courriels de proches, d’employeurs, de la garderie, de l’école, du dentiste et de l’hôpital, qui réclament tous qu’on leur réponde dans les plus brefs délais, puisque rien ne saurait attendre ne serait-ce que quelques heures ! Que nous nous montrerons nostalgiques de l’époque où ce que nous pouvions faire sur un ordinateur était simplement déterminé par ce que nous tapions sur le clavier ou par des clics de souris, et ce que nous pouvions faire à la maison et dans les lieux publics n’avaient pas à être dirigé et organisé à l’aide de comptes d’utilisateur gérés en ligne, de réservations ou de rendez-vous pris en ligne, d’abonnements payés en ligne, d’autorisations demandées et obtenues en ligne, d’itinéraires planifiés en ligne, avec l’aide d’une ou de plusieurs intelligences artificielles !
Mais ces regrets et cette nostalgie pourront seulement être vécues ou sont seulement vécues par ceux d’entre nous qui, étant déjà au moins dans la trentaine ou dans la quarantaine, se rappelleront de cette époque. Les plus jeunes, eux, ne s’apercevront pas de la disparition de ces technologies que nous contrôlions dans une grande mesure et seront donc insensibles à cette perte de contrôle pour nous et à la perte de contrôle sur nous qui y sera liée. Cette époque révolue leur sera difficilement concevable et leur paraîtra primitive. En raison de la standardisation technologique qui va bon train, on les privera de tout point de comparaison, et il sera d’autant plus facile de les contrôler grâce aux technologies qu’ils ne contrôlent pas, qu’ils ne désirent pas contrôler et qu’ils ne peuvent pas contrôler.
Concentration technologique
De cette standardisation technologique découle une forte centralisation technologique. Par là, je veux dire qu’un même dispositif technologique peut être utilisée pour faire des dizaines, des centaines et des milliers de choses qui, il y a à peine quelques décennies, devaient être faites avec des instruments, des outils, des accessoires ou des engins différents, ou ne pouvaient pas être faites du tout ou devait être faites par nous grâce à nos seules aptitudes physiques, sociales et intellectuelles. Je veux aussi dire par là que ces dispositifs technologiques peu nombreux et multifonctionnels (ordinateurs, téléphones dits intelligents, intelligences artificielles) peuvent être contrôlés par un nombre relativement petit de corporations étroitement liées entre elles. Par le fait même, c’est un contrôle effectif très étendu que ces corporations ont sur nous et la société dans laquelle nous vivons. Et jalouses de ce contrôle des technologies et des êtres humains, elles multiplient leurs efforts pour étouffer l’apparition et la propagation de technologies concurrentes, grâce à la propriété intellectuelle, au secret industriel, à des pratiques commerciales déloyales, à des campagnes de calomnie, à des poursuites devant les tribunaux, à du copinage au sein des gouvernements et des autres entreprises et au blocage des appareils.
Sauf pour les serveurs, le marché des systèmes d’exploitation est essentiellement contrôlé par Microsoft, qui parvient à s’imposer auprès des utilisateurs individuels et institutionnels, qui a réussi à obtenir des principaux fabricants d’ordinateurs qu’ils imposent Windows aux acheteurs, qui a réussi à imposer sa suite bureautique à force de démarchage et de rachat de concurrents, qui conserve son monopole grâce à la collaboration des compagnies de jeux vidéos et de logiciels utilisés dans les entreprises privées ou publiques qui se soucient seulement ou surtout que leurs produits fonctionnent sous Windows, qui a fait la guerre à Linux et au logiciel libre dans les années 1990 et 2000, et qui a ensuite essayé de s’immiscer dans le monde du logiciel libre, vraisemblablement pour y exercer son influence corruptrice de l’intérieur. Beaucoup d’entre nous se retrouvent donc à devoir utiliser un ordinateur qui fonctionne sous Windows, surtout pour le travail.
En ce qui concerne les téléphones intelligents, le marché est contrôlé par Apple qui fabrique ses propres appareils sur lesquels fonctionnent seulement iOS et par Google et les autres fabricants de téléphones sur lesquels est installé Android. Sauf erreur, il n’est pas possible d’installer un autre système d’exploitation sur les téléphones d’Apple, d’installer une version modifiée d’iOS ou d’utiliser d’autres dépôts de logiciels que ceux d’Apple. Quant aux téléphones conçus pour Android, les principaux fabricants et les fournisseurs de téléphonie n’offrent pas à leurs clients des appareils qui marchent avec autre chose qu’une version non ou peu modifiée d’Android. Ils vont même jusqu’à bloquer les appareils pour qu’il ne soit pas possible d’y installer un dérivé dégooglé d’Android ou une distribution mobile de Linux, et pour ne pas permettre aux propriétaires ou aux utilisateurs de les employer comme ils l’entendent. Les fabricants ne collaborent que rarement avec les communautés de développeurs ou les petites compagnies qui cherchent à rendre leurs dérivés d’Android ou leurs distributions mobiles de Linux aussi compatibles que possibles avec leurs appareils. Les fournisseurs de téléphonies mobiles les plus importants ne font pas d’efforts pour vérifier si les appareils non standards fonctionnent bien sur leur réseau, et peut-être font-ils parfois pires. À moins d’être prêts à attendre parfois plusieurs mois pour obtenir un téléphone libre commandé et prêts à payer le gros prix, à moins d’être capables de trouver un appareil compatible et débloqué et de faire soi-même le changement de système (au risque de rendre l’appareil inutilisable en cas d’échec), nous devons nous résigner à utiliser un iPhone ou un téléphone Android, ou à ne pas avoir de téléphone intelligent et en accepter les inconvénients, pendant que c’est encore possible.
Forts de ce contrôle du marché, les concepteurs des systèmes d’exploitation et les fabricants de téléphones peuvent nous imposer ce qu’ils désirent. Et ça ne s’annonce pas mieux pour les intelligences artificielles qu’on envisage de nous faire adopter dans quelques années pour prendre en charge notre existence individuelle et collective, car il nous faudra alors nous accommoder des quelques variantes proposées par de grandes corporations et, du même coup, de ce qu’il leur plaira d’en faire, souvent sans savoir précisément de quoi il s’agit, en raison de la complexité de ces dispositifs technologiques et du manque de transparence dont ils sont l’objet. Rien ne sert de dire aux grandes corporations que, si elles n’ont rien à cacher, elles devraient faire preuve de la transparence la plus totale à notre égard, puisque ce drôle de principe ne devrait s’appliquer qu’à nous, qui ne devrions avoir rien à cacher à ces grandes corporations.
Individuellement ou en petits groupes, nous pouvons difficilement contrôler les nouvelles technologies numériques. À moins d’une politique technologique qui nous permettrait de contrôler ceux qui contrôlent ces nouvelles technologies et de diminuer ou de mettre fin à ce contrôle, nous serons de plus en plus contrôlés grâce à ces technologies. L’absence de législation sur ce point ne peut que laisser le champ libre à des formes de contrôle de nous plus radicales par les grandes corporations du secteur technologique et leurs partenaires. Le problème, c’est que nos gouvernements font partie de ces partenaires, usent déjà des technologies numériques pour renforcer leur contrôle sur nous et semblent bien décidés à continuer de la faire.