Laboratoire générateur de Lorem Ipsum

Une chaîne de Markov est l'ancêtre mathématique direct des grands modèles de langage (LLM) modernes. Les deux fonctionnent selon la même boucle autorégressive de prédiction du token suivant. Le générateur observe les N mots précédents (fenêtre de contexte) et choisit le mot suivant à partir d'une distribution de probabilité. Alors qu'une chaîne de Markov se contente de rechercher des phrases correspondant exactement dans un petit corpus, un LLM utilise des milliards de paramètres (couches d'attention) pour évaluer le contexte et calculer des probabilités. De plus, ajuster ici l'entropie cible correspond directement au paramètre Température des API de LLM : une entropie plus élevée crée un texte créatif et varié (température élevée), tandis qu'une entropie plus faible crée un texte répétitif et prévisible (température basse).

Le faux-texte existe pour qu'on puisse juger une mise en page — espacements, corps de police, retours à la ligne — sans être distrait par le sens réel des mots. Un vrai texte pousse les relecteurs à réécrire des phrases avant même que le design soit arrêté. Ce laboratoire va plus loin : les mesures d'entropie et de Zipf permettent de vérifier si votre faux-texte imite la fréquence des mots d'une langue réelle, afin que les paragraphes se coupent comme le fera le contenu final.

« Lorem ipsum » n'est pas un charabia inventé : c'est du latin mélangé, tiré du traité d'éthique de Cicéron De finibus bonorum et malorum, écrit en 45 av. J.-C. Il commence même au milieu d'un mot : Lorem est la fin de dolorem (« douleur »), amputée de sa première syllabe. Le faux-texte par défaut du web est donc une réflexion vieille de 2 000 ans sur le plaisir et la douleur, brouillée par les premiers imprimeurs en spécimen typographique — et le mode Markov vous laisse re-mélanger ce qu'ils avaient jadis mélangé à la main.