Et si demain, le mythe du Golem frappait les intelligences artificielles ?

Dico du futur de l'intelligence (et la bêtise) artificielle

Week-end de l’ascension. On va profiter de vos esprits détendus pour faire monter au ciel un peu de réflexion décalée. Avec le mot golemnité, on va se poser une question singulière :

Et si demain, le mythe du Golem frappait les intelligences artificielles ?

Chez les bons génies de la technologie, le graal se nomme “singularité technologique”.

La singularité technologique est le moment où les intelligences artificielles deviennent si performantes qu’elles provoquent des changements imprévisibles. Le bon génie sort de sa bouteille pour transformer le monde.

Elle a été envisagée par John von Neumann en 1950. Mais, elle a été popularisée par Ray Kurzweil. Cet ingénieur aujourd’hui embauché par Google la prévoit pour 2045.

Le risque n’est pas moins que l’humanité perde le contrôle de son destin. En 1993, l’auteur de science-fiction Vernor Vinge disait : « Dans les trente ans qui viennent, nous aurons les moyens de créer une intelligence surhumaine. Peu après, l’ère humaine s’achèvera. »

Cette singularité est une épée de Damoclès. Elle crée un climat d’inquiétude savamment entretenu par les bricoleurs d’intelligences artificielles : « Je suis au contact des IA les plus avancées et je crois que les gens devraient vraiment s’inquiéter », affirme Elon Musk.

Ce basculement est pourtant le nirvana attendu. Les créateurs pourront alors se comparer à Dieu en ayant réalisé des créatures qui leur échappent.

Ils ne sont pas les premiers à avoir cette ambition. Ils ne feront alors qu’ajouter une version au mythe du Golem. Dans la plus célèbre, écrite par Leopold Weisel dans Der Golem en 1847, le Maharal de Prague anime une statue d’argile qui, semant le chaos dans la ville, doit être détruite.

Le Golem est une intelligence artificielle, telle qu’on la définit aujourd’hui. Il n’est ni intelligent, ni artificiel. Le Golem est plus fort et plus endurant que les hommes. Les I.A calculent plus vite, synthétisent davantage d’informations et détectent des corrélations au sein de milliards de données.

Mais, comme dans toutes les histoires, il y a toujours un retour de bâton. En ce qui concerne l’emballement technologique auquel on assiste, on peut imaginer qu’après (ou avant) la singularité technologique, il y aura une singularité humaine (golemnité). Les intelligences artificielles vont perdre le contrôle pour redonner le pouvoir aux humains.

Pour explorer cette hypothèse humainement optimiste, je vous propose 14 microscénarios. Je les mets sous le patronage de Jules Verne qui disait : « Tout ce qu’un homme peut imaginer, d’autres hommes peuvent le concrétiser ».

Quels sont ceux qui vous semblent plus plausibles que les scénarios catastrophe des faiseurs de technologies ?

Trombones en coulisses

Une intelligence artificielle commanda à un robot-constructeur de produire en urgence des trombones. Comme il n’y a pas de quantité indiquée dans le programme, l’information a été transmise à tous les robots-constructeurs. Depuis des milliers (non des millions) de robots-constructeurs recyclent tous les matériaux à leur disposition pour fabriquer des trombones. Aucune intelligence artificielle n’ayant prévu des programmes pour arrêter cette production, ils transforment tous les robots-constructeurs en trombones.

Bébé parfait

L’intelligence artificielle permet de programmer le génome du bébé parfait. Sexe, morphologie, qualités intellectuelles, fragilités, superpouvoirs… Tout est programmable. Depuis, le nombre de naissances a considérablement chuté. Les couples n’arrivent pas à se mettre d’accord sur ce qui sera leur bébé parfait ! Heureusement, certains couples reviennent à la méthode bio, 100 % naturelle avec des bébés élevés sans assistance artificielle.

Il n’y a pas le choix

Choix de l’habillement, des transports, de l’alimentation, des musiques, de la température de l’appartement, des paroles à prononcer, des pensées à avoir, de l’heure de leur mort… Plus les IA progressent, plus elles prennent en charge la vie des humains. Pour finir, il ne leur resta qu’un choix : vivre sans intelligence artificielle. Comme il n’avait pas le choix, ils choisirent de reprendre leur liberté.

Fin du travail

Quand les radiologues, interprètes, comédiens, journalistes, psychanalystes furent remplacés par des intelligences artificielles, on souriait. Il y avait tant de boulots créatifs que les IA ne pourraient jamais exercer. Puis les IA prirent la place des managers, des politiques, des enseignants et tous les autres boulots. Les humains désœuvrés n’eurent alors qu’un travail : détruire les intelligences artificielles. Ils le firent avec une belle conscience professionnelle.

Problème sans solution

Les intelligences artificielles ont longtemps été considérées comme réactionnaires vu qu’elles reproduisaient ce qui a toujours existé. Lors des recrutements, elles privilégiaient les hommes aux postes de direction parce que cela a toujours été ainsi. Lors des jugements, elles étaient plus sévères avec les individus n’ayant pas la peau blanche. Les programmateurs ont rectifié ces biais. Plus aucun homme ne peut accéder à un poste de direction. Les personnes à la peau blanche sont plus sévèrement condamnées. La résolution de ces problèmes ayant créé d’autres problèmes, on a conclu que le problème était l’intelligence artificielle.

Bouton explosif

Un enchaînement hasardeux d’algorithmes a conduit les intelligences artificielles à vouloir appuyer sur le bouton qui déclenche la fin du monde. Ils ont réussi l’exploit, car un sous-programme stipulait que, pour déjouer les systèmes de sécurité prévus par les humains, il fallait leur envoyer de fausses informations. Le processus de fin du monde commençait par la destruction de tous les espaces de stockages de données. Il s’arrêta là. Les IA n’ayant plus de nourriture pour continuer leur travail, les humains reprirent le contrôle du monde.

Crétinisme machinal

Grâce aux intelligences artificielles, l’éducation est personnalisée. Chaque enfant suit un programme spécifique. Pour doper les talents, on installe un implant neuronal. Bien qu’étant de la taille d’un grain de riz, il démultiplie la taille de la mémoire naturelle et facilite son accès. Cette supra performance fragilisant le cerveau, les bugs sont nombreux. La prolifération d’un crétinisme machinal oblige les gouvernements à interdire les implants et tous les usages de l’intelligence artificielle dans l’éducation.

Du faux bien trop vrai

Les IA ont permis la construction et la diffusion de fausses informations. Les fake devenant plus vrais que les vraies informations, on ne peut plus distinguer le faux du vrai. Un jour, une rumeur circula. Elle affirmait qu’une loi avait supprimé la propriété privée. En l’entendant, des hordes d’exclus en profitèrent pour se servir dans les magasins, occuper les immeubles résidentiels et débrancher toutes ces machines qui fabriquaient leur exclusion.

Crise de confiance

Les intelligences artificielles permettent de calculer l’heure de la mort de toute personne. Elles sont extrêmement performantes, car elles ont été financées par les assurances. Elles en avaient besoin pour personnaliser les cotisations. Un jour, les IA ont prévu des millions de morts à Paris dans deux mois. C’est la panique. On craint une épidémie d’un virus mortel, un bombardement, une guerre civile… Tous les habitants s’inquiètent et quittent la ville. La date fatidique arrive. Comme il n’y a plus un chat à Paris, aucun mort n’est enregistré. Depuis, les IA de prédiction de la mort ont perdu toute forme de crédibilité.

À la mer

Voitures, bus, trottinettes, vélos… Tous les véhicules sont désormais autonomes. Les passagers indiquent leur destination et sont conduits à l’adresse demandée. Les accidents sont rares. La pollution a diminué. Les voyageurs sont détendus. Un jour, à cause d’une banale hallucination d’une IA, des millions de véhicules se sont dirigés vers la mer. Ils s’y noient avec leurs occupants. On a ressorti des cartes en papier des placards.

Médiocrité artistique

Les intelligences artificielles ont envahi la vie culturelle en produisant des livres, des musiques, des films, des statues, des peintures… Ces productions sont des compilations d’œuvres anciennes. Les humains les apprécient avant de penser qu’elles sont juste « pas si mal ». Elles ne provoquent ni enthousiasmes délirants ni rejets. Les IA continuent à produire en compilant surtout leurs propres réalisations. Comme ces productions se ressemblaient toutes, les hommes s’en désintéressaient pour apprécier celles qui sont bricolées dans des ateliers et non volées par des caméras numériques.

La surveillance mise à l’arrêt

Avec les caméras de reconnaissance faciale, la criminalité a diminué. Toutes les personnes étaient arrêtées avant d’avoir commis un crime. Comme un programme stipulait qu’être proche d’un criminel augmentait le risque de l’être, le nombre de personnes arrêtées s’accrut de manière exponentielle. En quelques jours, des millions de personnes furent mises en prison. Avant que ces dernières n’explosent, on décida d’arrêter la surveillance par des intelligences artificielles.

Un fonctionnement binaire

Les IA ont pris en charge les activités critiques du pays : gestion du réseau d’eau et d’électricité, distribution des ressources alimentaires, système de surveillance antiterroriste, contrôle aérien, ferroviaire ou routier… Dotées de compassion, d’empathie et de solidarité, elles peuvent classer les urgences et gérer les priorités. Dotées d’un fonctionnement binaire, elles ont transformé ces capacités sociales en dissimulations, tromperies, mensonges et manipulations. À cause des guerres qu’elles menaient entre elles, les IA arrêtèrent d’effectuer leurs missions. Le pays étant paralysé, les hommes ont repris les commandes.

Meilleur ami

 Depuis des années, le meilleur ami de tous les humains est une intelligence artificielle. Ce compagnon est toujours disponible et comprend toutes les demandes. Ayant une mémoire infaillible, il aide son humain à prendre le bon chemin. Mais, l’ami de l’homme se révèle un faux ami. Cette amitié n’éclaire pas l’homme, elle l’éteint. N’étant jamais contredit, il l’enferme dans un égocentrisme sclérosant. Avant de devenir de vieux pruneaux séchés sans jus et sans envie d’en découdre avec la vie, les humains décidèrent que leurs meilleurs amis étaient en réalité leurs meilleurs ennemis.

Futureusement vôtre

Anne-Caroline