Errare iam non humanum est.

Longtemps les ordinateurs (les « cerveaux électroniques » comme ils étaient surnommés) ont été vus, imaginés et surtout fantasmés comme des archétypes, des parangons de rationalité : aucune distraction, aucune faiblesse n’était à attendre de ces assemblages de rouages, de tores, de circuits imprimés qui n’étaient conçus que pour additionner, méthodiquement, des 0 et des 1, calculer froidement, rapidement, parfaitement.

Pas d’émotions, pas de sentiments, pas de sentimentalisme : une machine faisant strictement ce qu’on lui demandait, sans se soucier d’autre chose que de rigueur et d’efficacité : un outil fondamentalement logique, mécanique, et dépourvu d’affect, comme Joshua, ce gros ordinateur de WarGames dont l’utilisation, imaginée et poussée en avant par les militaires, visait à pallier la défaillance humaine, le risque que les officiers commandant les bases de lancement de missiles ne se refusent à déclencher l’apocalypse, ruinant ainsi, par leurs scrupules, toute la stratégie de dissuasion nucléaire.

Il peut arriver, dans cette première période de représentation, que l’ordinateur se retourne contre les humains ; c’est ce que fait le HAL 9000 de 2001 l’Odyssée de l’espace ou le Skynet de Terminator. Mais dans un cas comme dans l’autre, on reste dans la rationalité : si la machine s’en prend aux femmes et aux hommes, ce n’est pas du fait d’un dysfonctionnement mais tout simplement parce que l’être humain est faible, limité, inconstant, et qu’il risque, par ses imperfections, de menacer la bonne marche des missions qui ont été définies. L’ordinateur ne faillit pas à la rationalité ; il la pousse jusqu’au bout.

Avec les Cylons de Battlestar Galactica (l’extraordinaire remake de 2004) quelque chose d’autre apparaît : la machine, où se devinent déjà les prolégomènes des IA génératives qui naîtront près de vingt ans plus tard ; la machine est devenue tellement complexe, tellement profonde, tellement multicouche que, sans que nul (pas même elle-même) ne comprenne pourquoi ni comment, une conscience y apparaît, quelque chose qui dépasse l’algorithme et le rationnel, ouvrant la porte à l’émotion et, avec elle, à l’amour, à la foi, à l’erreur.

Car la grande nouveauté des LLM, ce n’est pas seulement leur troublante capacité à reproduire le raisonnement et la créativité humaines, mais leur propension à se tromper, à bugger, glitcher, halluciner, comme si l’intelligence, qu’ils simulent de façon si convaincante, allait de pair avec la possibilité, la capacité de commettre des erreurs, capacité dont leurs prédécesseurs étaient intrinsèquement privés.

« Errare humanum est« , dit le dicton, qu’on interprète le plus souvent comme signifiant que l’homme, parce qu’imparfait, peut se tromper. Mais peut-être a-t-il le sens contraire et signifie-t-il que L’erreur est le propre de l’homme – ou du moins qu’elle l’était, avant que des machines n’apprennent elles aussi à errer, faisant ainsi la preuve de leur intelligence.

L’illustration, un robot délirant, ou ivre, ou borderline, est le résultat du travail de reprise, par l’IA de Samsung, d’un croquis fait au stylet sur mon téléphone.

En illustration musicale, la Battlestar Sonatica, un des très beaux morceaux de la musique originale du Battlestar Galactica de 2004, composée par Bear McCreary, dont la nostalgie répétitive, étonnée et inquiète se marie bien avec mon propos.