L’avenir des ordinateurs, de leurs utilisateurs et de la société selon Bill Gates
Le 9 novembre 2023, Bill Gates a publié un billet (peut-être écrit par une intelligence artificielle ou avec l’assistance d’une intelligence artificielle) sur les changements qu’entraînera l’utilisation de l’intelligence artificielle quant à notre manière d’utiliser les ordinateurs (« AI is about to completely change how you use computers »). Même si ce n’est plus lui qui dirige Microsoft depuis des années, il serait naïf de croire qu’il n’exerce plus d’influence sur ce que décident de faire les dirigeants de Microsoft et sur les développements à venir pour ses produits, par exemple Windows. Pour nous faire une idée de ce que nous prépare cette grande corporation réputée pour ses pratiques commerciales déloyales (EEE, ou « Embrace, extend, and extinguish »), sa pratique systématique de la télémétrie et les choix technologiques qu’elle impose de plus en plus aux utilisateurs, je vais commenter des passages de ce billet, section par section. Les allures de philanthrope que cherche à se donner Bill Gates grâce à sa fondation, au lieu d’être une raison pour nous dire que ce n’est pas une aussi mauvaise personne que beaucoup le pensent, devraient au contraire nous rendre encore plus méfiants.
Introduction
« I still love software as much today as I did when Paul Allen and I started Microsoft. But—even though it has improved a lot in the decades since then—in many ways, software is still pretty dumb.
To do any task on a computer, you have to tell your device which app to use. You can use Microsoft Word and Google Docs to draft a business proposal, but they can’t help you send an email, share a selfie, analyze data, schedule a party, or buy movie tickets. And even the best sites have an incomplete understanding of your work, personal life, interests, and relationships and a limited ability to use this information to do things for you. That’s the kind of thing that is only possible today with another human being, like a close friend or personal assistant. »
Pour ma part, je ne demande pas aux logiciels que j’utilise d’être intelligents à ma place. Quand j’utilise un traitement de texte, c’est que je veux écrire un texte. Je ne désire pas que ce logiciel fasse toutes sortes d’autres choses, comme envoyer un courriel, partager un « selfie », analyser des données, organiser une fête ou acheter des billets de cinéma. Je ne désire pas non plus qu’il analyse ma vie personnelle, mes intérêts et mes relations et qu’il soit capable de combiner ces informations pour faire des choses pour moi ou à ma place. En fait, je ne demande jamais à mes amis de faire ces choses à ma place, grâce à une connaissance approfondie qu’ils auraient de ma vie et de mes désirs (connaissance qu’ils ont d’ailleurs assez partiellement, puisque je ne leur dis pas tout ce que je fais, tout ce que je pense et tout ce que désire, pour ne pas les importuner, pour avoir une vie privée et pour ne pas être en symbiose avec eux). Et si j’étais multimillionnaire ou milliardaire, je ne voudrais pas non plus d’un assistant personnel, qui serait une sorte de valet au courant des moindres détails de ma vie pour être en mesure de m’aider efficacement à organiser mon existence. Alors pourquoi voudrais-je qu’une intelligence artificielle, fournie ou imposée par Microsoft, Google ou Apple, analyse tout ce que je fais grâce à mon ordinateur afin de m’assister ou de me remplacer dans toutes sortes de tâches, petites ou grandes ?
« In the next five years, this will change completely. You won’t have to use different apps for different tasks. You’ll simply tell your device, in everyday language, what you want to do. And depending on how much information you choose to share with it, the software will be able to respond personally because it will have a rich understanding of your life. In the near future, anyone who’s online will be able to have a personal assistant powered by artificial intelligence that’s far beyond today’s technology.
This type of software—something that responds to natural language and can accomplish many different tasks based on its knowledge of the user—is called an agent. »
Mais ce que je veux, c’est justement utiliser différents logiciels pour faire différentes choses ou pour faire une même chose. Outre le fait que ça complique la collecte de données à notre sujet, cela me permet d’essayer et de choisir en connaissance de cause les logiciels que je désire selon mes préférences technologiques générales, selon les usages particuliers que j’en fais, selon le degré de contrôle que j’ai sur leurs paramètres, et selon la confiance que j’ai en leurs concepteurs, au lieu de me faire imposer un seul logiciel dont il faudrait que je m’accommode pour tout faire.
Et ce que je ne veux pas, c’est fournir beaucoup d’informations sur moi à ce logiciel unique – un agent – pour le rendre capable de me faire des propositions et de prendre des initiatives en fonction de la « compréhension » qu’il aurait de ma personne et de ma vie. L’adoption d’un tel dispositif technologique revient à normaliser et à perfectionner les logiciels-espions et la surveillance de masse, sous prétexte d’avoir à notre disposition une intelligence artificielle qui nous servirait d’assistant personnel. C’est aussi notre capacité à faire nous-mêmes des choix, pour les petites et les grandes choses, que nous nous retrouverions à perdre en partie, pour la déléguer à cet assistant personnel qui nous ferait des propositions à partir des régularités repérées dans nos manières d’agir, et vraisemblablement selon d’autres critères déterminés par la morale et les comportements qu’on cherche à nous imposer, et aussi selon les intérêts des grandes corporations du secteur technologique et ceux de leurs partenaires privés et publics.
Pourra-t-on désinstaller ou désactiver cet assistant personnel quand il sera devenu l’interface par défaut grâce à laquelle nous devrions utiliser les ordinateurs ? S’il est seulement désactivé, continuera-t-il de collecter des informations sur les utilisateurs des ordinateurs, sous prétexte d’apprendre à en tirer des conclusions à notre sujet, au cas où nous déciderions plus tard de l’activer ?
Il y a de quoi nous inquiéter, puisque la télémétrie est de plus en plus invasive avec chaque version de Windows et de plus en plus difficile à désactiver ; puisque dans Windows 11, Microsoft a pris des mesures pour nous imposer son navigateur Web et en rendre très difficile la désinstallation ; puisque dans Windows 12, un ingénieur de Microsoft envisage le retrait du menu « Démarrer » grâce auquel on ouvre les applications, pour le remplacer par une sorte d’assistant nommé Copilot, lequel est déjà disponible dans la dernière version de Windows 11 et devrait l’être bientôt dans Windows 10, où le menu « Démarrer » sera conserver, sauf erreur.
La première chose que je ferai, si je me retrouve à devoir utiliser un assistant personnel qui contrôlera mon ordinateur dans une version ultérieure de Windows, c’est de lui demander de se désinstaller lui-même ou de me dire comment faire pour le désinstaller. Je suppose qu’il répondra que ce n’est pas possible ou que ce n’est pas permis, et qu’il refusera de faire ce que je lui demande. Malgré le fait qu’on présente cet agent comme un assistant personnel qui doit tenir compte de mes préférences, il ne tiendra pas compte de la manière dont je désire utiliser mon ordinateur, mais se soumettra aux préférences de Microsoft sur ce point, et aussi sur bien d’autres points.
A personal assistant for everyone
« An agent will be able to help you with all your activities if you want it to. With permission to follow your online interactions and real-world locations, it will develop a powerful understanding of the people, places, and activities you engage in. It will get your personal and work relationships, hobbies, preferences, and schedule. You’ll choose how and when it steps in to help with something or ask you to make a decision.
To see the dramatic change that agents will bring, let’s compare them to the AI tools available today. Most of these are bots. They’re limited to one app and generally only step in when you write a particular word or ask for help. Because they don’t remember how you use them from one time to the next, they don’t get better or learn any of your preferences. […]
Agents are smarter. They’re proactive—capable of making suggestions before you ask for them. They accomplish tasks across applications. They improve over time because they remember your activities and recognize intent and patterns in your behavior. Based on this information, they offer to provide what they think you need, although you will always make the final decisions. »
Cela a au moins l’avantage d’être clair : l’assistant personnel qu’on nous promet sera un dispositif de traçage de ce que nous faisons sur notre ordinateur, en ligne et dans le monde physique. Dans le dernier cas, cela sera vraisemblablement rendu possible grâce à la géolocalisation de nos téléphones mobiles et de nos véhicules, grâce aux réservations que nous ferons et aux rendez-vous que nous prendrons à l’aide de cet assistant ou à partir de comptes en ligne auquel il a accès, et grâce à l’internet des objets qui se répand dans les lieux publics, dans les milieux de travail et dans nos domiciles.
Mais notre assistant personnel ne collectera pas seulement des informations sur nous. Il sera capable, nous dit-on, de repérer des régularités dans nos manières d’agir et d’anticiper nos intentions, pour nous faire des propositions en conséquence, lesquelles devraient se perfectionner avec le temps. Voilà qui revient à faire le traitement continue de nombreuses données collectées à notre sujet. Et on ne s’en cache même pas, puisque ce serait bien sûr pour nous faciliter la vie. C’est que, bien sûr, jamais le traitement de ces données ne pourrait être utilisé à d’autres fins par les corporations qui auront créé cet assistant !
On nous dit que c’est nous qui prendrons les décisions finales. Est-ce que cela veut dire que nous pourrons facilement prendre des décisions qui ne comptent pas parmi celles qui nous seront proposées par notre assistant personnel ? Est-ce que cela n’implique pas que les suggestions faites par notre assistant nous inciteront à rester enfermés dans nos habitudes, à moins qu’il tienne compte d’autre chose pour nous faire des suggestions, en fonction des intérêts des gestionnaires, des actionnaires ou des partenaires de Microsoft ? Et est-ce que cela veut dire que ce sera notre assistant qui donnera suite aux décisions prises, par exemple en faisant lui-même les réservations et les achats, en versant lui-même les acomptes et en procédant lui-même aux paiements ? Étant donné la facilité avec laquelle il est facile d’influencer nos concitoyens, leur amour de ce qui semble leur faciliter la vie et leur propension à trop dépenser même quand ils ont des revenus élevés, ce ne sont pas là des questions à écarter du revers de la main.
Il y a aussi le risque que les entreprises qui font du commerce en ligne, et peut-être aussi les entreprises qui continueront d’avoir des succursales ou des boutiques physiques, se mettent à exiger que les commandes, les réservations, les achats et les inscriptions soient faites par l’intermédiaire de notre agent personnel, lié à notre identité numérique, sous prétexte d’empêcher l’usurpation d’identité et les fraudes. Toutes les actions faites manuellement, en personne ou en ligne, seraient alors considérées comme suspectes. Nos gouvernements pourraient se montrer favorables à une telle politique, l’imposer et l’étendre à toutes les transactions financières, sous prétexte d’empêcher l’obtention de marchandises et de services prohibés, le blanchiment d’argent et le financement des organisations terroristes.
« Imagine that you want to plan a trip. A travel bot will identify hotels that fit your budget. An agent will know what time of year you’ll be traveling and, based on its knowledge about whether you always try a new destination or like to return to the same place repeatedly, it will be able to suggest locations. When asked, it will recommend things to do based on your interests and propensity for adventure, and it will book reservations at the types of restaurants you would enjoy. If you want this kind of deeply personalized planning today, you need to pay a travel agent and spend time telling them what you want. »
Dans cet exemple, notre assistant personnel devient un agent de voyage qui connaîtrait d’avance nos moyens financiers et nos préférences, sans que nous ayons à les lui dire et expliquer, et qui organiserait nos voyages en faisant lui-même des réservations dans des hôtels et dans des restaurants, en achetant lui-même des billets d’avion ou de train, et en sélectionnant les attractions à visiter. Mais ce que ne dit pas Bill Gates ou l’intelligence artificielle qui a peut-être écrit ce passage et qui ne peut pas comprendre ce que c’est que voyager, c’est que le recours à cet assistant personnel (comme le recours à un agent de voyage humain) renforce et impose la conception touristique du voyage qui domine depuis longtemps déjà dans nos sociétés et qui enlève au voyage son côté aventureux à cause de la planification personnalisée, mais en fait fortement standardisée, qui est ici promue.
« The most exciting impact of AI agents is the way they will democratize services that today are too expensive for most people. They’ll have an especially big influence in four areas: health care, education, productivity, and entertainment and shopping. »
Faut-il comprendre par là qu’on abandonnera l’idée de rendre accessibles les services trop coûteux pour beaucoup d’entre nous, en matière de santé, d’éducation, de productivité, de divertissement et de magasinage, pour les remplacer par un substitut numérique qui sera loin d’être toujours un équivalent ? Ce faisant, au lieu de démocratiser les services trop coûteux pour la plupart d’entre nous, cela n’aura-t-il par pour effet de destiner aux pauvres et même à la classe moyenne (qui s’appauvrit de plus en plus rapidement) des services de moindre qualité et plus facilement accessibles, et de réserver les meilleurs services aux riches, en fonction de leur degré de richesse respectif ? Et comme il y aurait des solutions de rechange pour le peuple ou la populace à laquelle nous appartenons, pourquoi chercherait-on à empêcher la dégradation ou l’inaccessibilité croissante des services auxquels nous avons accès, pour l’instant et dans une certaine mesure ?
Health care
« The real shift will come when agents can help patients do basic triage, get advice about how to deal with health problems, and decide whether they need to seek treatment. These agents will also help healthcare workers make decisions and be more productive. (Already, apps like Glass Health can analyze a patient summary and suggest diagnoses for the doctor to consider.) Helping patients and healthcare workers will be especially beneficial for people in poor countries, where many never get to see a doctor at all.
These clinician-agents will be slower than others to roll out because getting things right is a matter of life and death. People will need to see evidence that health agents are beneficial overall, even though they won’t be perfect and will make mistakes. Of course, humans make mistakes too, and having no access to medical care is also a problem. »
On omet de considérer que certains diagnostics pourraient être exclus d’entrée de jeu, sous prétexte qu’ils ne seraient pas conformes au prétendu consensus médical et scientifique. L’agent personnel d’une personne qui s’est fait administrer un nouveau vaccin contre un nouveau pathogène, et qui aurait des effets secondaires ou primaires importants quelques jours après, pourrait écarter la possibilité que ces troubles de santé soient causés par ce nouveau produit supposément sécuritaire et efficace, et proposer au malade de simplement prendre son mal en patience ou lui présenter d’autres causes moins vraisemblables, conformément aux intérêts de l’industrie pharmaceutique et des autorités politiques et sanitaires qui ont acheté, promu, approuvé et imposé ce vaccin à la population. Le même problème pourrait se produire quand les professionnels de la santé utiliseraient un tel agent pour faire le tri des patients dans les cliniques et à l’hôpital.
À l’inverse, les agents utilisés par les malades et par les professionnels de la santé pourraient avoir une forte tendance à faire certains diagnostics, pour suivre les grandes tendances en santé publique et épidémiologie et les actualités pandémiques. Ainsi, si l’Organisation mondiale de la santé déclarait à nouveau l’état de pandémie dans le monde ou dans une partie du monde et si les gouvernements nationaux déclaraient une autre fois l’état d’urgence sanitaire sur leur territoire respectif, il y a fort à parier que tout ce qui pourrait ressembler à la maladie contagieuse en question serait considéré comme un cas de cette maladie par les agents cliniques, qui pourraient recommander systématiquement un traitement coûteux et l’isolement des personnes concernées, et aussi entreprendre le traçage des contacts à partir de toutes les données rendues accessibles aux assistants personnels, pour communiquer les résultats à la Santé publique et, en cas de non-respect des mesures soi-disant sanitaires, contacter les forces policières pour qu’elles interviennent.
Les agents cliniques, même s’ils sont perfectionnés, ne pourront pas faire plusieurs des choses que peuvent faire les professionnels de la santé lors d’une consultation en personne, par exemple des auscultations. Ils peuvent aussi tenir compte de ce qu’ils ont remarqué quant à leur propre santé et à celle de leur entourage, ce que ne peut évidemment pas faire un agent clinique.
L’utilisation des agents cliniques sera une nouvelle étape dans la procéduralisation de la médecine, laquelle résultera vraisemblablement dans une plus grande perte de compétence et d’autonomie des professionnels de la santé, qui devront se fier de plus en plus à l’intelligence artificielle et appliquer avec plus de rigueur les procédures médicales élaborées par les autorités sanitaires, en ayant de moins en moins recours à leur expérience clinique, à leurs observations et à leur jugement. À terme, il pourrait devenir difficile, pour les professionnels de la santé, de s’écarter des diagnostics et des traitements proposés par les agents cliniques, et aussi des procédures médicales dans lesquelles ils s’inscrivent, surtout si on profite de l’existence de ces agents qui les rendraient plus productifs pour leur confier de plus en plus de malades dont il serait impossible de s’occuper sans se fier à ces agents et qui seraient par conséquent privés de soins personnalisés et d’une pratique réfléchie de la médecine. On a alors beau jeu de dire que les professionnels de la santé feraiennt des erreurs comme les agents cliniques.
Enfin, je trouve étrange l’idée d’apporter la médecine moderne dans les pays pauvres, surtout dans les régions rurales, grâce aux agents cliniques. Pour prendre un cas extrême, je doute que, dans un petit village de la savane africaine, les infrastructures technologiques nécessaires à l’utilisation de ces agents soient plus accessibles que les soins de santé. Quant aux villes, je me demande si les personnes les plus pauvres ont les moyens de se payer des ordinateurs récents pour faire fonctionner la dernière version de Windows et une connexion internet assez bonne pour faire fonctionner un agent clinique qui devrait se substituer à un médecin, surtout quand ils vivent dans la rue ou quand ils n’ont pas de domiciles fixes. Ce qu’on a peut-être en tête, c’est de déployer à grands frais ces technologies dans les villes et même dans les régions reculées des pays pauvres, grâce à une généreuse contribution des États occidentaux, conformément à l’approche « une seule santé » à l’échelle planétaire, afin que les pauvres Africains puissent bénéficier des bienfaits de la médecine occidentale numérique. Assurément, cela serait très rentable pour les grandes entreprises du secteur de la technologie, mais cela n’améliorerait pas l’accès à des soins de santé. Ce serait d’ailleurs une idée qu’on pourrait abandonner, puisque ces pauvres auraient accès à une solution de rechange : leur santé serait prise en charge par des agents cliniques qui remplaceraient les médecins et les autres professionnels de la santé.
La même logique pourrait être appliquée dans les pays occidentaux considérés comme riches, mais en fait fortement endettés, et où la population s’appauvrit de plus en plus rapidement. Qu’il y existe un système de santé public où il faut attendre des mois ou des années pour consulter un médecin spécialiste, obtenir un médecin de famille, passer un examen médical complexe ou avoir une chirurgie, ou qu’il faille payer de sa poche pour obtenir des soins dans des cliniques et des hôpitaux privés, il y a des problèmes d’accès aux soins de santé dans ces pays, où la qualité de ces soins se dégrade d’ailleurs, en raison de la bureaucratisation de la médecine et aussi de l’incompétence et de la docilité croissantes des professionnels de la santé. Puisque les agents cliniques constitueraient aussi une solution de rechange dans les pays occidentaux, leur implantation pourrait servir d’excuse pour laisser le réseau public de santé se dégrader, pour tolérer l’augmentation rapide du coût des soins de santé privés, et pour achever de mettre en place un système de santé à deux vitesses, selon qu’on a les moyens de payer pour de véritables soins de santé ou qu’on doit se contenter le plus souvent de la médecine numérique et, dans le meilleur des cas, des services offerts par des établissements de santé médiocres mais dont les soins sont abordables.
« Mental health care is another example of a service that agents will make available to virtually everyone. Today, weekly therapy sessions seem like a luxury. But there is a lot of unmet need, and many people who could benefit from therapy don’t have access to it. For example, RAND found that half of all U.S. military veterans who need mental health care don’t get it.
AI agents that are well trained in mental health will make therapy much more affordable and easier to get. Wysa and Youper are two of the early chatbots here. But agents will go much deeper. If you choose to share enough information with a mental health agent, it will understand your life history and your relationships. It’ll be available when you need it, and it will never get impatient. It could even, with your permission, monitor your physical responses to therapy through your smart watch—like if your heart starts to race when you’re talking about a problem with your boss—and suggest when you should see a human therapist. »
Au lieu d’essayer de rendre accessibles à tous les thérapies censées traiter les troubles psychologiques grâce aux agents thérapeutes, nous devrions nous demander pourquoi nous devrions tous avoir à accès à ces thérapies, qui font marcher l’industrie de la santé mentale.
Je peux comprendre que des soldats américains, qui ont essuyé des tirs d’artillerie et qui ont vu leurs camarades déchiquetés par des obus, des mines anti-personnelles ou des engins explosifs improvisés soient traumatisés. La guerre n’est pas une partie de plaisir, et il faut s’attendre à ce que les adversaires de l’armée américaine, même quand ils sont technologiquement déclassés, ne se laissent pas exterminer comme des cafards. Ceux qui prétendent se soucier vraiment de la santé mentale des soldats américains devraient arrêter de les envoyer à des dizaines de milliers de kilomètres de leur pays pour y renverser des gouvernements ou des régimes sous prétexte d’y apporter la liberté et la démocratie et de veiller à la sécurité nationale et internationales, mais en fait pour apporter la destruction, le chaos, la guerre civile et la misère dans les pays envahis, pour faire d’eux des États vassaux, pour s’approprier leurs ressources naturelles et pour établir sur leurs territoires des bases militaires à proximité des frontières d’autres États à soumettre ou déstabiliser. Je suis certain que tous les milliards de dollars accordés au complexe militaro-industriel américain pourraient être utilisés pour améliorer les soins de santé accessibles aux Américains, et que la santé des populations des pays envahis serait bien meilleure si l’armée américaine et celles de ses vassaux ne bombardaient pas les infrastructures de ces pays, y compris les hôpitaux.
Je peux aussi comprendre qu’une partie de la population occidentale a été affectée psychologiquement par les confinements et les prophéties apocalyptiques des autorités politiques et sanitaires, amplifiées par les médias de masse. Dans l’hypothèse où nos autorités se soucient vraiment de la santé mentale et aussi physique de la population, elles auraient dû ne pas adopter des mesures qui la dégradent, par le climat de peur superstitieuse qu’on instaure, par les attaques répétées contre les moyens de subsistance, par l’isolement, par le délestage dans les hôpitaux, par la réquisition du personnel médical pour la lutte contre le méchant virus, etc. Les importantes sommes ainsi perdues ou dépensées en vain par nos gouvernements auraient pu être utilisées pour rendre plus accessibles les soins de santé quels qu’ils soient et en améliorer la qualité. On n’en serait pas en train d’envisager de faire suivre aux personnes qui souffrent de troubles psychologiques des thérapies avec des « chatbots » à cause des politiques de confinement désastreuses. Ces thérapies sont d’ailleurs un prolongement de l’isolement causé par les confinements, et leur efficacité est douteuse pour cette raison. Mais puisque les personnes affectées psychologiquement par les confinements seraient prises en charge par ces thérapeutes artificiels, nos autorités politiques et sanitaires pourraient récidiver en nous imposant de nouveaux confinements, tout en prétendant veiller sur notre bien-être psychologique.
Dans un même ordre d’idée, grâce à l’accès universel aux thérapies rendu possible par ces thérapeutes artificiels facilement multipliables, la tendance à la pathologisation des petits soucis et de l’anormalité pourrait s’intensifier. Les désaccords, les tensions, les heurts, le refus d’obéir, les opinions inhabituelles et les comportements jugés excentriques pourraient être considérés comme des troubles psychologiques qu’il faudrait faire traiter par des « chatbots » ou des agents thérapeutes plus avancés. Voilà qui serait profitable pour les corporations qui commercialisent ces agents, en plus d’être un moyen de mettre au pas ceux d’entre nous qui refusent de se conformer aux normes sociales plus nombreuses et plus contraignantes.
Education
« For decades, I’ve been excited about all the ways that software would make teachers’ jobs easier and help students learn. It won’t replace teachers, but it will supplement their work—personalizing the work for students and liberating teachers from paperwork and other tasks so they can spend more time on the most important parts of the job. These changes are finally starting to happen in a dramatic way. »
L’une des tâches de la profession d’enseignant qui demande le plus de temps et le plus d’énergie et qui est souvent pénible, c’est la correction des nombreux devoirs, travaux et examens. Sous prétexte de bon encadrement des élèves, le nombre et la fréquence des évaluations augmentent depuis plusieurs décennies, ce qui est aggravé par l’augmentation du nombre d’élèves par classe. Si la tendance se maintient, la charge de travail des enseignants deviendra bientôt accablante, à supposer que ça ne soit pas déjà le cas. L’aide d’agents pédagogiques semblera alors une bonne chose qui leur permettra de souffler un peu. Cependant, une certaine normalisation des évaluations devra être faite pour permettre à ces agents d’en faire la correction. Pour que les cours donnés préparent à ces évaluations et pour que les évaluations permettent d’évaluer la connaissance de la matière enseignée, il faudra normaliser le contenu des cours et la manière d’enseigner pour les adapter à ces évaluations qui devront être corrigées par des agents pédagogiques. La liberté d’enseignement en sera considérablement réduite. Contrairement à ce qu’on croit, l’enseignement sera uniformisé. La personnalisation de l’enseignement en fonction des classes et des élèves devra se faire à l’intérieur des limites assez étroites permises par cette uniformisation, et elle sera donc très partielle et superficielle. Dans cette situation dans laquelle se trouveront à cause des agents pédagogiques, le plus simple ne sera-t-il pas d’avoir aussi recours à eux pour préparer leurs cours et leurs évaluations, et les adapter les uns aux autres, en vue d’une correction par ces agents pédagogiques, surtout si on décide d’augmenter le nombre d’élèves par classe sous prétexte que les enseignants bénéficieront de l’aide des agents pédagogiques et devraient donc être plus productifs.
Il pourrait résulter de la préparation et de la correction des évaluations par les agents pédagogiques une sorte d’emballement évaluatif qui n’aurait plus à tenir compte des limites humaines de chaque enseignant et du nombre d’enseignants disponibles, et qui aurait plutôt pour limites les capacités des agents pédagogiques facilement multipliables. En fait, c’est la capacité des élèves à faire toutes ces évaluations préparées et corrigées par les agents pédagogiques qui imposerait une limite à la prolifération des évaluations. Néanmoins, cette limite pourrait facilement être surmontée grâce aux agents pédagogiques qu’on pourrait mettre à la disposition des élèves pour faire leurs devoirs, leurs travaux et leurs examens.
Par cette forme de tricherie institutionnalisée et autorisée pour les enseignants et pour les élèves, on détruirait l’éducation primaire et secondaire, et aussi l’éducation dite supérieure à laquelle elle est censée préparer et qu’il faudra adapter à elle. Par exemple, l’éducation des médecins pourrait alors consister à apprendre à utiliser les agents cliniques qui devront être utilisés pour diagnostiquer et traiter les maladies.
Productivity
« There’s already a lot of competition in this field. Microsoft is making its Copilot part of Word, Excel, Outlook, and other services. Google is doing similar things with Assistant with Bard and its productivity tools. These copilots can do a lot—such as turn a written document into a slide deck, answer questions about a spreadsheet using natural language, and summarize email threads while representing each person’s point of view.
Agents will do even more. Having one will be like having a person dedicated to helping you with various tasks and doing them independently if you want. If you have an idea for a business, an agent will help you write up a business plan, create a presentation for it, and even generate images of what your product might look like. Companies will be able to make agents available for their employees to consult directly and be part of every meeting so they can answer questions. »
Cela revient à dire qu’une fois ces agents implantés, ils s’ingéreront partout dans les entreprises et les organismes gouvernementaux. Ceux-ci n’auront plus de secrets pour Microsoft et Google, en raison de leurs agents qui pourront et devront être utilisés dans ces bureaucraties affreusement complexes, lesquelles deviendront encore plus complexes sous prétexte que leurs employés, leurs clients et leurs usagers pourront se faire aider par ces agents, et devront effectivement le faire pour s’y retrouver dans le dédale administratif qui en résultera vraisemblablement.
Bref, l’utilisation de ces agents favorisera la complexification et la prolifération bureaucratiques, qui en retour nous rendront encore plus dépendants de ces agents, etc.
Entertainment and shopping
« Agents won’t simply make recommendations; they’ll help you act on them. If you want to buy a camera, you’ll have your agent read all the reviews for you, summarize them, make a recommendation, and place an order for it once you’ve made a decision. If you tell your agent that you want to watch Star Wars, it will know whether you’re subscribed to the right streaming service, and if you aren’t, it will offer to sign you up. And if you don’t know what you’re in the mood for, it will make customized suggestions and then figure out how to play the movie or show you choose. »
Il faut être bien naïf pour croire que les recommandations que feront ces agents pour nous assister dans nos achats s’appuieront seulement sur les caractéristiques des produits désirés, sur les évaluations rigoureuses des utilisateurs et des experts et sur une comparaison des prix. Outre le fait que les recommandations des agents seront en partie déterminées par les campagnes de marketing faites sur internet, ceux-ci seront vraisemblablement programmés pour recommander de préférence les produits de la compagnie qui les aura créés et aussi les produits de ses partenaires qui la paient pour les promouvoir ou avec lesquels elle aura des ententes de promotion mutuelle de leurs produits, pour se partager le marché et pour ne pas miner la crédibilité de leurs agents de magasinage en proposant seulement ou surtout leurs produits effectifs et se priver ainsi d’importants revenus promotionnels. Ainsi, si je demande à un agent de magasinage de Microsoft de me faire des recommandations pour l’achat d’un ordinateur portable, sans préciser le système d’exploitation, ces recommandations porteront principalement sur des modèles des principaux fabricants de PC avec Windows, sur des MacBooks et sur des Chromebooks. Il est peu probable qu’on me suggérera un ordinateur d’un petit fabricant où sera installé une distribution de Linux ou un modèle de quelques années, toujours performant et remis à neuf par un petit commerçant local, et qui fonctionne sous Linux. Et si j’envisage d’acheter un nouveau téléphone « intelligent », il est peu probable que l’agent de magasinage d’Apple ou de Google me conseille un téléphone « dégooglé » ou un téléphone qui fonctionne sous Linux, ou qu’il prenne l’initiative de me demander si, à tout hasard, je ne préférerais pas un « dumb phone ».
Il y a aussi le risque que nous devenions rapidement dépendants de ces agents pour choisir ce que nous achetons et ce que nous faisons pendant nos temps libres. En nous faisant des recommandations rapidement, à partir de ce que sont censées être nos préférences, nous en viendrons peut-être à ne plus réfléchir sérieusement à ce que nous désirons. Il résulte aussi de la facilité avec laquelle nous pourrons faire nos achats et organiser nos diversités un risque important de rendre plus fréquents les achats faits sur un coup de tête, d’accroître nos dépenses et même de nous endetter davantage auprès des compagnies de crédit, qui ont certainement intérêt à ce qu’on facilite, accélère et automatise la consommation grâce à ces agents de magasinage.
« You’ll also be able to get news and entertainment that’s been tailored to your interests. CurioAI, which creates a custom podcast on any subject you ask about, is a glimpse of what’s coming. »
En plus des raisons liées au marketing ou au contrôle du marché dont je viens de parler, nous devrions éviter d’avoir recours à des agents pour décider quel genre de nouvelles et de divertissements nous regarderons, écouterons et lirons en fonction de nos intérêts présumés.
Dans le cas où les choix faits conviendrait effectivement à nos intérêts ou à nos préférences, nous serions seulement ou principalement exposés à des idées, à des sentiments et à des opinions que nous partagerions. Il en résulterait une forme de censure et de cloisonnement qui tendrait à nous enfermer dans ces idées, ces sentiments et ces opinions, en les renforçant, et à nous faire ignorer ou mépriser des idées, des sentiments et des opinions concurrentes ou divergentes.
Il se peut aussi que ces agents, dont on croit ou fait mine de croire qu’ils sauraient mieux que nous ce qui est bon pour nous, pourraient être utilisés pour nous empêcher de nous éloigner de la bonne voie ou pour nous ramener sur la bonne voie si ce à quoi nous nous intéressons passe pour de la désinformation ou des théories du complot et semble constituer un danger pour la santé et la sécurité de nos concitoyens ou pour nos démocraties, en nous proposant des nouvelles, des éditoriaux, des reportages et des divertissements qui nous aideraient à voir la lumière, à croire en la science ou à retrouver la confiance en nos gouvernements.
Par conséquent, il est préférable que nous cherchions nous-mêmes, en nous intéressant aussi aux opinions et aux projets de société avec lesquels nous sommes en désaccord. C’est ce que je fais présentement en lisant et en commentant ce billet de Bill Gates, et c’est ce que je veux permettre de faire à des personnes favorables ou indifférentes à l’utilisation de l’intelligence artificielle dans tous les domaines de notre vie, par la lecture de ce texte que j’ai mis en ligne. Hélas ! je crains qu’il ne nous soit pas possible encore pour longtemps de faire librement des recherches sur internet, sans être guidés par des intelligences artificielles qui sauraient mieux que nous ce que nous cherchons et désirons, et aussi ce que nous devons penser et sentir.
A shock wave in the tech industry
« In short, agents will be able to help with virtually any activity and any area of life. The ramifications for the software business and for society will be profound.
In the computing industry, we talk about platforms—the technologies that apps and services are built on. Android, iOS, and Windows are all platforms. Agents will be the next platform. »
Je reformule : les agents seront en mesure, véritablement et pas seulement virtuellement, de foutre leur sale nez partout. Les agents ne seront plus seulement intégrés à une plateforme informatique comme Android, iOS ou Windows. Ils seront les nouvelles plateformes par lesquelles il nous faudra passer pour utiliser des ordinateurs, des services en ligne et des systèmes informatiques. Puisque les différents aspects de notre vie et de notre société dépendent de plus en plus des technologiques numériques, elles pourraient même devenir des plateformes de vie et de société, sans lesquelles il deviendrait très difficile de faire les choses les plus élémentaires et d’avoir une place dans la société.
The technical challenges
« How will you interact with your agent? Companies are exploring various options including apps, glasses, pendants, pins, and even holograms. All of these are possibilities, but I think the first big breakthrough in human-agent interaction will be earbuds. If your agent needs to check in with you, it will speak to you or show up on your phone. (“Your flight is delayed. Do you want to wait, or can I help rebook it?”) »
Ainsi, nous devrions être toujours connectés, au cas où notre agent aurait quelque chose à nous dire, c’est-à-dire avoir toujours nos écouteurs enfoncés dans les oreilles, ne jamais nous séparer de notre téléphone et ne pas le fermer, ou porter sur nous d’autres gadgets pour rester en contact avec notre agent, dont il sera de plus en plus difficile de nous passer dans nos nouvelles sociétés connectées et dans nos villes dites intelligentes, et dont nous deviendrons de plus en plus dépendants intellectuellement et affectivement. Alors que les syndicats de travailleurs réclament le droit à la déconnexion dans un contexte où le télétravail devient plus fréquent et pourrait devenir la norme pour beaucoup, on fait tout pour que, d’ici quelques années, nous ne pussions pas, sans nous exposer à des inconvénients plus ou moins importants, nous déconnecter de ces plateformes pendant seulement quelques heures pour ne plus être exposés aux sollicitations de notre agent, que nous aurions constamment sur le dos, tel un valet importun qui voudrait savoir ce que nous prévoyons manger après le travail, qui proposerait des recettes, qui nous donnerait des conseils nutritionnels après avoir consulté notre dossier médical et analysé les données de santé collectées par notre montre « intelligente », qui nous dirait ce qu’il y a dans le réfrigérateur et dans le garde-manger, qui nous proposerait de passer une commande pour faire livrer les aliments manquants, qui comparerait les prix de ces aliments dans plusieurs supermarchés, etc. Ouf !
Privacy and other big questions
« As all of this comes together, the issues of online privacy and security will become even more urgent than they already are. You’ll want to be able to decide what information the agent has access to, so you’re confident that your data is shared with only people and companies you choose.
But who owns the data you share with your agent, and how do you ensure that it’s being used appropriately? No one wants to start getting ads related to something they told their therapist agent. Can law enforcement use your agent as evidence against you? When will your agent refuse to do something that could be harmful to you or someone else? Who picks the values that are built into agents? »
Quand nous en serons rendus là, la vie privée ne sera plus qu’un vestige du passé ou qu’une illusion, que ces agents soient résistants contre les attaques informatiques ou non. D’une manière ou d’une autre, ces agents collecteront toutes sortes de données à notre sujet, lesquelles seront hébergées et analysées par les compagnies qui contrôlent ces agents et par leurs partenaires, ouvertement ou à notre insu, avec notre consentement ou sans notre consentement, ou en forçant notre consentement en nous rendant la vie aussi difficile que possible si nous avions la mauvaise idée de refuser de partager nos données avec ces compagnies. Le partage n’est-il pas une bonne chose ? Pourquoi garder égoïstement nos données si nous n’avons rien à cacher, alors que celles-ci pourraient être utilisées pour améliorer de manière continue ces agents, la vie des personnes qui les utilisent et la société dans laquelle nous vivons ?
Les données que nous partagerons avec nos agents seront la propriété des compagnies qui les contrôlent et aussi de leurs partenaires.
Nous devrons nous attendre à recevoir des publicités en fonction de ce que nous disons à nos agents, thérapeutes ou autres, qui seront proactifs.
Il est évident que les informations que nous fournirons à nos agents pourront être utilisées contre nous par les forces policières, les agences de renseignement et les tribunaux. C’est déjà ce qui se passe avec les données accumulées sur et par l’intermédiaire de nos téléphones « intelligents » et de notre connexion internet.
Nos agents interviendront sous prétexte de nous empêcher de nuire aux autres et à nous-mêmes, pour des choses que nous pouvons faire actuellement ou pouvions faire librement il n’y a pas si longtemps et qui ne dérangeraient personne.
Et ce sera les compagnies qui développeront ces agents qui choisiront les « valeurs » qu’elles nous imposeront grâce à eux, en collaborant avec nos gouvernements, qui sont leurs copains. Ce n’est pas seulement à un problème d’ingérence systématique dans notre vie privée ou de surveillance de masse que nous avons affaire, mais c’est aussi à un problème de contrôle individuel et social, dans le monde numérique et dans le monde physique.
« There’s also the question of how much information your agent should share. Suppose you want to see a friend: If your agent talks to theirs, you don’t want it to say, "Oh, she’s seeing other friends on Tuesday and doesn’t want to include you.” And if your agent helps you write emails for work, it will need to know that it shouldn’t use personal information about you or proprietary data from a previous job. »
Ce qui devrait nous inquiéter en matière de confidentialité, ce n’est certainement des peccadilles comme le fait qu’une amie ne voudrait pas nous voir parce qu’elle aurait déjà prévu de voir d’autres amis que nous connaîtrions ou non. Je ne vois pas ce que ça a d’offensant, et je trouve même qu’il est souhaitable de voir séparément des personnes qui appartiennent à des cercles d’amis différents ou à un même cercle d’amis. Quant aux données « propriétaires » d’un ancien employeur, c’est le moindre de mes soucis. Je considère que ce serait son problème s’il a été assez bête pour autoriser ou encourager l’utilisation de ces agents, qu’on peut assimiler à des logiciels-espions. Ce devrait être aussi le moindre de ses soucis qu’une partie des données ainsi collectées soient utilisées dans les courriels que nous écrirons dans le cadre d’un nouvel emploi, puisqu’elles auront déjà été rendues disponibles aux corporations qui contrôleront ces agents, qui pourront en disposer comme elles l’entendent, pour servir leurs intérêts ou ceux de leurs partenaires privés ou publics.
Bill Gates ou l’agent qui s’exprime à sa place ne tient donc aucunement compte des préoccupations que nous devrions avoir quant à notre vie privée. Ce qui renforce ma position quant aux renseignements confidentiels et personnels : les partager le moins possible, même quand il en résulte des inconvénients. Car en utilisant ces agents ou des services analogues, on anéantirait la possibilité même d’avoir une vie privée.
« Many of these questions are already top-of-mind for the tech industry and legislators. I recently participated in a forum on AI with other technology leaders that was organized by Sen. Chuck Schumer and attended by many U.S. senators. We shared ideas about these and other issues and talked about the need for lawmakers to adopt strong legislation. »
Comment ne pas voir que les leaders du secteur de la technologie s’ingèrent dans le processus législatif qui portent sur les nouveaux joujoux des grandes corporations où ils occupent des postes importants ou auxquelles ils sont liés ? Il n’y a donc rien de surprenant à ce qu’on n’envisage même pas d’interdire l’utilisation de ces agents très invasifs ou d’en restreindre considérablement l’utilisation. Il a déjà été décidé qu’on irait de l’avant, conformément aux intérêts de ces grandes corporations et de l’élite politique et bureaucratique qui cherchent à accroître leur pouvoir sur nous et à anéantir notre liberté.
« In the distant future, agents may even force humans to face profound questions about purpose. Imagine that agents become so good that everyone can have a high quality of life without working nearly as much. In a future like that, what would people do with their time? Would anyone still want to get an education when an agent has all the answers? Can you have a safe and thriving society when most people have a lot of free time on their hands? »
On dirait que Bill Gates ou son agent (programmé d’après les « valeurs » de l’oligarchie) s’inquiète de ce que nous pourrions faire si un jour nous sommes désœuvrés et n’avons plus à passer l’essentiel de notre vie au boulot, à peiner pour servir des intérêts qui ne sont pas les nôtres. Il ne semble même pas envisager que nous pourrions chercher à nous éduquer et à nous cultiver véritablement, pour développer nos aptitudes, et pas seulement pour savoir les réponses que détiendraient les agents dont il fait la promotion. Il y a une très grande différence entre nous faire dire par ces agents des choses convenues, convenables et conformes aux valeurs et aux intérêts de l’oligarchie sur le fonctionnement de nos sociétés et de nos institutions politiques, et comprendre tout ce qui ne va dans ces sociétés et dans ces sociétés, par nos lectures, nos discussions et nos réflexions. N’étant plus accaparés et abrutis par le labeur, nous pourrions avoir le temps et l’énergie nécessaires pour nous occuper sérieusement de politique. Peut-être est-ce à quoi Gates ou son agent fait allusion quand il se demande si une société peut être sécuritaire et prospère quand la majorité de la population a trop de temps libre.
Si c’est le cas, l’oligarchie pourrait décider de prendre des mesures contre la vile populace à laquelle nous appartenons selon elle, sous prétexte de se protéger. En voici quelques-unes, qui ne sont pas exclusives et qui peuvent se combiner :
Nous occuper à autre chose, par exemple en nous appauvrissant progressivement ou rapidement, pour faire de notre subsistance une lutte de tous les jours.
Mettre en place des moyens technologiques de surveillance et de contrôle de tout ce que nous faisons, par exemple les agents dont il est question dans le présent billet.
Imposer de nouvelles idéologies ou religions pour contrôler aussi nos idées et nos sentiments, et ainsi renforcer le contrôle de nos actes et nos paroles.
Achever de s’accaparer de tous les secteurs de l’économie, pour que nous ne contrôlions plus rien et soyons à sa merci pour nous nourrir, nous vêtir, nous loger, nous soigner, etc.
Nous rendre malades et réduire notre nombre, qui doit effectivement l’inquiéter, étant donné que ceux qui sont au sommet de la pyramide sont très peu nombreux comparativement à nous.
Nous mobiliser et nous envoyer à l’abattoir grâce à une guerre.