Choisir l’expression "machine à parler" pour décrire un large language model me semble justifié. Il s’agit bien de language, de "paroles", pas d’écriture. J’ai lu hier soir ce billet : "Perec, la gomme et la machine" qui rappelle qu’écrire, c’est réécrire, reprendre, revenir en arrière, un travail de couseuse qui construit son bâti, fait face à des écueils, et recommence. La pensée prend appui sur le mot précédent, et si ce mot ne fait pas tremplin pour la pensée des mots qui suivent, il nous est possible d’effacer, de remplacer le mot inexact ou approximatif, d’aiguiser ce qui est dit, de préciser, ce qu’un large language model ne sait pas faire, lui qui avance comme un ruban de caisse enregistreuse.
Et cette phrase frappante dans le billet "Perec, la gomme et machine" : "C’est le flux de production ininterrompu qui fait qu’un modèle distingue mal ce qu’il a lu de ce qu’il a produit lui-même [...]" (j’ajoute "un ce qui donne")  : un texte dont l’auteur ne se relit jamais". Peut-être qu’au lieu de mentionner "texte écrit par ia", quand c’est le cas, on devrait indiquer "texte non-écrit par qui ne sait pas se relire".
Ne pas savoir se relire n’est pas rédhibitoire en soit. Un large language model va donner aussi de bonnes idées, des remarques justes, de bons renseignements lorsqu’il est questionné, mais il va s’appuyer sur un fil mince, un très long fil, impressionnant mais non travaillé, non bâti, non construit, non cousu, non ravaudé. Si sur ce fil sont accrochées des réponses justes, c’est presque par hasard, comme on lit par hasard l’heure juste deux fois par jour sur l’horloge arrêtée.
Ce qui me fait penser (je crois que c’est en écoutant une intervention d’Emanuel Marre pour Notre salut) à cette anecdote des télégrammes qui s’envoient d’un service à l’autre, à un moment où la technologie ne connaît pas le bouton delate, si bien que les repentirs restent lisibles, ils ne sont que raturés, et l’archiviste peut lire le message d’origine sous la rature, avec sa crudité, sa cruauté, quand il s’agit de noter que les enfants dans les wagons prennent moins de place que les adultes quand on calcule le taux de remplissage de convois vers la mort.
Écrire sans raturer, sans gommer, n’est pas penser. Maintenant, l’idée, sous les ratures, les reprises, les flux, les déversements, c’est à quoi on pense, et dans quelle case le ranger, il n’y a pas tant de choix possibles, mortifère ou vital.

.

(site sous licence Creative Commons BY-NC-SA)