Toute l'histoire tient en deux temps. On la fabrique. Puis on s'en sert.
— ici, les IA qui écrivent : ChatGPT, Claude, Gemini…
Rien de spécifique à l'IA : notre monde numérique traduit déjà tout en nombres. Une IA en hérite — elle ne lit, ne voit, n'entend jamais comme nous.
Le texte est d'abord découpé en petits morceaux — des tokens, souvent des bouts de mots. Chaque morceau devient aussitôt un numéro.
On lui fait lire des milliards de phrases. À chaque fois, on cache le morceau suivant : il doit le deviner.
Phrase d'entraînement : « Un avocat plaide au tribunal. » On cache le dernier mot — la bonne réponse est « tribunal ». Chaque colonne du tableau est un paramètre, ajusté à chaque essai.
| rég. 1 | rég. 2 | rég. 3 | rég. 4 | |
|---|---|---|---|---|
| avocat | 0.1 | −0.3 | 0.4 | 0.2 |
| tribunal | −0.2 | 0.1 | −0.1 | 0.3 |
Le même réglage qui se forme pour « avocat » et « tribunal » fait ça pour chaque morceau : il lui donne des coordonnées. Voici le principe, avec d'autres mots pour mieux voir la géométrie.
Deux métiers (avocat, boulanger) et leur lieu de travail (tribunal, boulangerie). Au départ, une place au hasard. Puis chacun glisse vers sa position stable — avec, entre métier et lieu, exactement le même écart pour les deux.
Deviner la suite ne suffit pas : il doit répondre utilement et poliment. Des personnes comparent deux réponses et choisissent la meilleure.
L'apprentissage s'arrête : tous ses réglages sont verrouillés. Il n'a gardé en mémoire aucun texte lu — seulement des régularités. Quand il répond, il ne ressort rien : il reconstruit une suite plausible. Parfois juste, parfois fausse.
Beaucoup l'imaginent comme une bibliothèque qu'on interroge, allant chercher une page exacte. Ce n'est jamais ça.
« Avocat » est un seul token, un seul vecteur figé. Mais ce mot désigne un fruit ou un métier — comment le modèle choisit-il ?
| réglage 1 | réglage 2 | réglage 3 | réglage 4 | |
|---|---|---|---|---|
| avocat | 0.5 | 0.5 | 0.1 | −0.1 |
« Un avocat plaide au tribunal. » Une règle figée — la même pour tous les mots — calcule à quel point chaque voisin est utile.
| rég. 1 | rég. 2 | rég. 3 | rég. 4 | pertinence | |
|---|---|---|---|---|---|
| avocat | 0.5 | 0.5 | 0.1 | −0.1 | — |
| tribunal | 0.1 | 0.9 | 0.6 | 0.2 | ≈ 45 % |
| plaide | 0.2 | 0.8 | 0.5 | 0.1 | ≈ 45 % |
| Un, au, . | 0.05 | 0.05 | 0 | 0 | ≈ 10 % |
« Un avocat en salade. » Mêmes réglages figés — d'« avocat », de « tribunal », de « salade »… Seuls les voisins changent.
| rég. 1 | rég. 2 | rég. 3 | rég. 4 | pertinence | |
|---|---|---|---|---|---|
| avocat | 0.5 | 0.5 | 0.1 | −0.1 | — |
| salade | 0.9 | 0.05 | −0.2 | 0.4 | ≈ 45 % |
| mangé | 0.85 | 0.1 | −0.15 | 0.35 | ≈ 45 % |
| un, en | 0.05 | 0.05 | 0 | 0 | ≈ 10 % |
La ligne d'« avocat » n'a jamais changé entre les deux phrases. Ce qui change, c'est le calcul de mélange — figé lui aussi, mais rejoué à chaque phrase avec des voisins différents.
Cette application « autour du modèle » — on vient de le voir — peut s'utiliser de deux façons : la porte du grand public, ou celle des développeurs.
Beaucoup de « start-up IA » ne construisent rien de tout ça. Elles branchent une interface sur le moteur de quelqu'un d'autre.
Ce calcul, on vient de le voir : il pose un token, regarde ce qui précède, choisit le plus probable… et recommence. Sans jamais relire ni se relire.
Pendant l'échange, il ne « voit » qu'une quantité limitée de texte à la fois — comme un bureau où l'on étale des feuilles. Quand c'est plein, les plus anciennes tombent.
Il ne sait que ce qu'il a appris — et c'est figé. Pour répondre sur de l'actualité ou vos documents internes, on va chercher les bons textes et on les pose sur son bureau, juste avant qu'il réponde.
Avant même votre premier message, celui qui a installé l'IA lui donne des instructions cachées. Vous ne les voyez jamais, mais elles fixent les règles du jeu.
Une IA ne cherche pas le vrai. Elle cherche le plausible — ce qui « sonne juste ». Le plus souvent ça coïncide. Pas toujours.