Petite incursion angoissante dans le monde « rassurant » de demain… Une nouvelle de Pierre Lieutaud.
Che serà, serà…
L’introduction dans le monde d’une nouvelle génération de robots capables d’apprentissage avait été précédée de colloques sans fin et des simulations de toutes les situations où « on aurait affaire à eux », disait le rapport officiel. Les robots-sceptiques affrontaient les pro-robots :
- Nous n’avons rien à cacher, le professeur Buissonniere a rédigé ce rapport. Pas une minute, il ne croit à l’avenir lumineux que vous proclamez. Les robots doivent rester des outils. Ils ne sont que des machines. Si vous leur donnez un pouvoir, ils vont l’exercer comme les machines qu’ils sont, têtus, répétitifs, autoritaires, intraitables, sans pitié…
- Vous dramatisez. De simples aidants, voilà ce qu’ils sont…
- Si l’on n’y prend garde, les progrès techniques leur donneront une autonomie redoutable.
La décision de ces sages qui se haïssaient avait respecté l’équilibre (« une poire coupée en deux », murmura Buissonniere). Le développement des futurs programmes d’apprentissage qui amélioreraient les robots fut autorisé et en même temps, pour ne pas « les laisser dans la nature », leurs missions avaient été détaillées avec précision.
Il était bien entendu que ces êtres de ferraille ne pourraient circuler sans ordres ou consignes. (« Un jour, ils roderont en maraude dans les ruelles », disait Buissonniere). Rangés dans des alignements d’alvéoles au fond de hangars de gardiennage, ils s’activeraient uniquement et exclusivement sur appel d’un humain. Ils prendraient alors leur route silencieuse vers le donneur d’ordre et se présenteraient devant lui. Ils écouteraient, enregistreraient la demande, leurs programmes détermineraient si cet ordre était compris et s’il était réalisable. Ils manifesteraient alors leur adhésion, tourneraient casaque et commenceraient leur travail.
Pour simplifier ces procédures et garder la maitrise de ces humanoïdes, les concepteurs avaient limité leurs réponses à quatre positions possibles.
En position 1, le robot s’inclinait profondément, ce qui indiquait que ses programmes trouvaient l’ordre logique et cohérent. La position 2 comportait une inclinaison diminuée de moitié et des yeux grands ouverts avec un regard fixé sur le sol. Cette attitude indiquait une adhésion à l’ordre donné, mais sans servilité, avec retenue, comme si l’automate désirait qu’on réfléchisse un peu cette injonction. En position 3, le robot restait droit, fixait l’interlocuteur du regard et ne bougeait pas, c’était le signe d’une incompréhension de l’ordre. Celui qui l’avait donné avait le choix ou bien de le reformuler de façon identique s’il pensait que l’automate avait mal entendu ou de réfléchir à cet ordre et le modifier s’il était illogique, excessif ou inutile.
La position 4 était la dernière. Elle succédait aux trois autres. L’automate levait les deux bras au ciel de façon absolument symétrique, ses yeux s’ouvraient et se fermaient alternativement au rythme d’un battement de paupière par seconde, il faisait un demi-tour sur place et se sauvait en courant, tout droit, en sifflotant… Ce sifflement, disaient les techniciens, c’est l’émission du doppler de positionnement de sa trajectoire, ses paupières qui battent, c’est comme pour applaudir. Et ils ajoutaient : en effet, il ne peut le faire avec ses bras qui sont dressés au ciel en signe d’allégresse, d’adhésion totale, et alors, il applaudit avec ses yeux.
Cette attitude, pourtant, on s’en aperçut après quelques mois d’apprentissage, pouvait indiquer aussi un refus d’obéir, pire une révolte devant un ordre stupide ou injuste, ou bien, pire encore, qui ne plaisait pas au robot. Mais les techniciens ne voyaient que le triomphe véhiculé par la course de l’automate du bien-fondé de l’ordre qu’il avait reçu, alors que sur ses algorithmes, ouverts aux quatre vents, se greffaient peu à peu des boucles de raisonnements, des procédures de comparaison de l’ordre reçu à tous ceux similaires conservés dans un thesaurus d’apprentissage de l’automate. Les robots avaient acquis une expérience de vie.
Les techniciens des algorithmes n’en revenaient pas de ce qu’ils voyaient. Parfois, tout en s’inclinant profondément après qu’ils aient reçu un ordre, certains robots avaient les yeux écarquillés, dans le regard d’autres luisait comme une étoile, une lueur d’ironie, avait dit un technicien, dans le regard d’autres encore flottait un sourire et ceux-là, qui semblaient goguenards, émettaient par leur bouche aux lèvres biosynthétiques un bruit qui ressemblait au blatèrement d’un chameau…
Un apprentissage dévoyé, déclara Buissonniere, destiné simplement au départ à améliorer le service que les robots rendaient aux hommes, mais dont ils tirent autre chose. Des conclusions logiques et froides.
Des études étaient en cours pour essayer de comprendre comment une possibilité de jugement, de critique (qui n’en était qu’a ses débuts, avait dit le chef des algorithmes pour rassurer tout le monde), avait pu s’installer dans ces machines de câbles, de plaquettes, de diodes et de vinyle. Et pour le moment, aucune explication n’avait été donnée.
Une commission indépendante composée de fabricants de robots, d’évaluateurs de prototypes, d’informaticiens spécialisés dans les algorithmes fut mise en place pour déterminer avec précision la responsabilité de chacun dans cet embrouillamini. Elle devait essayer de comprendre comment avaient pu être conçus des programmes si vulnérables que des données imprévues aient pu se glisser dans les algorithmes et en troubler le déroulement ?
- À quoi peuvent servir des automates qui décident eux-mêmes des actions qu’ils vont mener ? déclara le président en préambule pour résumer l’objectif de la commission… Des machines destinées à nous aider, nous obéir et qui n’en font qu’à leurs têtes, avec des yeux qui ne sont qu’une paire de capteurs hypersensibles et dans lesquels passent des lueurs d’ironie ? Comment en est-on arrivé à avoir des robots narquois, rétifs, désobéissants ? Comment est-il possible que de cet assemblage mécanique, numérique, de polystyrène, de puces informatiques, de servomoteurs, de rotules, de dopplers, de potentiomètres, de tuyauteries, enfin, de cet inventaire à la Prévert, ait pu sortir un concurrent des hommes qui l’ont conçu ?
- Pas encore un concurrent, dit le faiseur d’algorithmes, une machine qui juge tout en obéissant.
- Un danger quand même, dit son voisin.
- Qui c’est, ce Prévert, marmonnait le spécialiste des algorithmes en cherchant dans la liste des scientifiques reconnus…
On frappa à la porte. Trois petits coups légers. Elle s’ouvrit, un robot entra, s’immobilisa devant la grande table où les membres de la commission, alignés comme des hirondelles sur un fil, se demandaient ce qu’il faisait là. Il fixa son regard pendant exactement trois secondes sur chaque participant, le temps que ses circuits reconnaissent à qui il avait à faire, et il se mit en phase 4 (aucun ordre ne lui ayant été donné, les trois positions habituelles étaient inutiles), leva les bras au ciel, émit un ricanement, fit demi-tour et se sauva en sifflotant une vieille chanson « Che serà, serà... », sans oublier de claquer la porte.
Le silence qui pesait sur l’assemblée après cette irruption dura, dura… La chanson tournait dans toutes les têtes « Che serà, serà, demain n’est jamais bien loin… »
- En plus, dit le président, il ricane et chante une chanson…
- Et il claque la porte, ajouta un ingénieur.
- Ahurissant, murmura le président. Messieurs, il nous faut comprendre et réagir, sinon ils vont s’emparer du monde !
- Vous allez un peu vite, dit un expert des pièces détachées, un coup de presse et ce n’est plus qu’une hostie.
- Un coup de presse, un coup de presse, répliqua l’ingénieur, mais ils sont des dizaines de milliers sur la terre, nous en avons installé partout.
Il sortit un petit carnet et lut :
- Dans les grandes surfaces, les hôpitaux, les écoles, les péages d’autoroutes, les musées, les égouts, la tour Eiffel. Ils conduisent les cars scolaires, les bus, les camions, les trains, les navires… Et je ne parle pas des maisons ou des appartements où ils font partie des familles…
Il aurait pu continuer sa lecture de longues minutes, il jugea la démonstration de cet envahissement suffisante et il changea de registre :
- Et ils sont autonomes. Je veux dire dédiés à des taches particulières dont le déroulement ne peut être interrompu de l’extérieur. Ils sont dotés d’alarmes sécurisées pour stopper eux-mêmes leurs actions. Et uniquement en cas de cataclysmes naturels, pluie diluviennes, inondations, incendies ou tornades.
- Alors, il n’y a rien à faire ?
Comment avait-on pu laisser aller si loin cette dérive ? se disait le professeur Buissonnière, fermer les yeux sur ce pouvoir qui enflait, n’en faisait qu’à sa tête et finirait par faire des hommes les esclaves de ces ersatz d’humains ?
Il sonna. Un robot ouvrit la porte et entra, s’immobilisa devant lui. Il attendait. Qu’est-ce qui peut bien se passer dans sa tête, pensa Buissonniere. Le robot ne bougeait toujours pas. Je l’ai appelé, il doit bien se demander pourquoi. Le robot semblait un menhir, une statue, un grand jouet, une peluche de fer… Voyons un peu, pensa-t-il en murmurant :
- Petit robot, petit robot, approche-toi… Il ajouta… minou… minou…
Ordre de s’approcher enregistraient les circuits du robot, mots inconnus répétés deux fois sans formulation impérative ; recherche dans syllabus : échec, mots inconnus hors programmes. Décision : s’approcher et demander reformulation de l’ordre par l’émetteur.
Il s’approcha, les yeux écarquillés, ne sachant s’il devait se mettre en position 2 ou 3. Position 3 risquée annoncèrent ses circuits, risque d’incompréhension de l’émetteur.
Il resta en position 2, baissa les yeux vers le sol. Maintenant, il était tout près, contre Buissonnière. Le contact de sa peau embrouillait ses circuits. Buissonnière le caressa. Ses sauvegardes se mirent aussitôt en place devant cet inconnu qui le touchait, il commença à reculer, mais trop tard… Buissonniere le jetait à terre et avec une masse écrasait son corps, gondolait ses membres, broyait sa tête dans laquelle passaient à la queue leu-leu, les identifications aux détails très précis des pannes et des sectionnements de ses circuits intérieurs, les loupiotes de réinitialisation s’éteignaient, les débris de verre, de plastique sautaient sur la moquette et lui, dans une incompréhension totale, froide et mécanique de ce qui lui arrivait n’essaya plus de relancer la machine qu’il était…
Buissonniere était soulagé. Non mais alors, qui est-ce qui commande ? Ces saloperies de carcasses ou nous ?
Par la porte grande ouverte, dans un bruit de casseroles, une multitude de robots entrait en se bousculant. Leurs bras étaient levés au ciel, des éclairs sortaient de leurs yeux. Buissonniere eut juste le temps de s’étonner de l’irruption de ce troupeau de carcasses à l’air menaçant et de reconnaitre la chanson que tous chantaient : Che serà, serà…
Avis aux lecteurs
Un texte vous a plu, il a suscité chez vous de la joie, de l'empathie, de l'intérêt, de la curiosité et vous désirez le dire à l'auteur.e ?
Entamez un dialogue : écrivez-lui à notre adresse nouveaudecameron@albiana.fr, nous lui transmettrons votre message !
