👻 LLM · Page 4/5

Les Hallucinations

Quand l'IA invente des faits avec la même assurance qu'elle en dit de vrais

La métaphore

Imagine un témoin oculaire très éloquent qui a assisté à des milliers de procès. Il sait comment se déroule un procès, comment les avocats parlent, quel type de preuves existent. Mais si tu lui demandes les détails d'un crime qu'il n'a pas vu, il les inventera en toute bonne foi — avec le même aplomb, le même style, la même confiance. Il ne sait pas qu'il invente. C'est une hallucination de LLM.

Pourquoi ça arrive ?

Pour comprendre les hallucinations, il faut rappeler comment fonctionne un LLM : il prédit le token suivant le plus probable, encore et encore.

Ce mécanisme est excellent pour générer du texte fluide et cohérent. Mais il ne distingue pas le vrai du faux. Si la prédiction statistique mène vers une information inexacte, le modèle la produit avec la même assurance que s'il disait la vérité. Il ne "sait" pas qu'il se trompe, car il n'a pas de mécanisme interne de vérification factuelle.

⚠️ À comprendre absolument

Un LLM ne ment pas. Il prédit. Et parfois, la prédiction est fausse. C'est une limite fondamentale du mécanisme, pas un bug ou une mauvaise volonté.

Les différents types d'hallucinations

📅 Dates & chiffres

« La tour Eiffel a été construite en 1887 » (c'est 1889)

📚 Citations inventées

Un livre qui n'existe pas, attribué à un auteur réel

🔗 URLs fantômes

Un lien vers un article « pertinent » qui n'existe pas

👤 Biographies mixées

Deux personnes différentes dont les parcours se mélangent

⚖️ Jurisprudence inventée

Un jugement de tribunal qui n'a jamais eu lieu

🔬 Faits plausibles-mais-faux

Un mécanisme chimique qui « semble » scientifique mais est erroné

Un exemple concret

Dialogue illustratif

Toi

Cite-moi 3 livres de l'auteur Jean Duverger sur la théorie des organisations.

LLM (hallucination)

Voici 3 ouvrages de Jean Duverger :

1. "Les Organisations apprenantes" (Éditions du Seuil, 2003)
2. "Systèmes et hiérarchies en entreprise" (PUF, 1998)
3. "Le management par les flux" (Dunod, 2011)

⚠️ Ces livres n'existent probablement pas. Le LLM a généré des titres plausibles avec les bonnes maisons d'édition françaises et des années crédibles. Tout semble parfait — mais c'est inventé.

L'affaire qui a choqué le monde juridique

En juin 2023, dans l'affaire Mata v. Avianca (tribunal fédéral de New York), les avocats Steven Schwartz et Peter LoDuca ont soumis des mémoires contenant six jurisprudences entièrement inventées par ChatGPT. Ils ne les avaient pas vérifiées. Le juge a demandé les originaux — ils n'existaient pas. Sanction : 5 000 $ d'amende et obligation de notifier tous les juges faussement cités.

📌 À retenir

ChatGPT avait produit des noms de cas complets, des dates précises, des citations de juges, des numéros de dossier. Tout était faux. Mais rien ne permettait de le deviner à la lecture — le style était parfaitement juridique. Ce n'est pas un cas isolé : depuis 2023, des dizaines d'avocats ont subi des sanctions similaires dans le monde entier.

Comment se protéger ?

Vérifier les faits importants — toujours croiser avec une source externe (Wikipedia, site officiel, article original)

Ne jamais faire confiance aux citations — un titre de livre, un auteur, une date doivent être vérifiés

Demander les sources — et aller les vérifier réellement, pas juste lire les URLs que le LLM cite

Ancrer dans des sources réelles — coller un extrait de document fiable dans le prompt, ou utiliser le RAG ; le modèle répond depuis ce texte plutôt que depuis sa mémoire

Demander les signaux d'incertitude — ajouter « indique quand tu n'es pas certain » dans ton prompt. Un LLM bien instruit dira « je ne suis pas sûr, à vérifier » plutôt que d'inventer avec assurance

✅ Règle d'or

Utilise le LLM pour trouver, structurer et rédiger — mais vérifie toi-même tout fait critique avant de t'y fier. L'IA comme premier brouillon, la vérification humaine comme dernière étape.