La grande nouveauté des grands modèles de langage (LLM), ce n’est pas seulement leur troublante capacité à reproduire le raisonnement et la créativité humaines, mais leur propension à se tromper, à bugger, glitcher, halluciner, comme si l’intelligence, qu’ils simulent de façon si convaincante, allait de pair avec la possibilité, la capacité de commettre des erreurs,
Étiquette : intelligence
L’intelligence des choses est tellement structurée comme un langage qu’on peut même se demander si elle n’est pas un effet de langage.
Rien ne ressemble plus à notre intelligence, rien n’est à certains égards plus proche de notre intelligence, que son imitation, y compris dans les applications, notamment médicales et scientifiques, qui ne se contentent pas de singer, mais qui cherchent et découvrent.
Que Copilot ne sache pas faire de schéma, je le conçois ; ce qui stupéfie, c’est qu’il en fasse quand même ; et ce qui est prodigieusement intéressant, c’est que son approche des schémas étant purement graphique, le souci sémantique est en totalement absent. L’objectif de l’IA n’est pas ici de produire un schéma qui ait du sens, c’est de produire un schéma qui ressemble à un schéma ; et c’est pourquoi les mots, les cases, les flux sont totalement interchangeables : ils ne représentent rien. Ou pour dire les choses autrement, les deux hémisphères du réseau neuronal qui coopèrent chez les humains sont ici déconnectés l’un de l’autre ; et de cette déconnexion naissent des monstres.
Il y a, de fait, en dépit de tout ce qui plaide contre elle, mille excellentes raisons de s’intéresser à l’I.A. Mais prenons garde à notre fascination atavique pour l’intelligence, à la séduction du malin, à notre tendance à placer l’intelligence au-dessus de tout. Elle ne le mérite sans doute pas.