Une citation exacte peut produire une réponse juridiquement fausse

Après les premières affaires de jurisprudences inventées, la réaction a été saine : exiger des sources, les ouvrir et les vérifier. Un système qui cite reste préférable à un système qui ne cite pas.

Mais une citation n’est pas un certificat de validité juridique. Une source peut exister, être fidèlement reproduite et conduire malgré tout à une conclusion fausse.

Trois contrôles différents

Le premier contrôle porte sur l’existence. La décision ou l’article cité existe-t-il réellement ? C’est le cas le plus visible, celui des références fantaisistes.

Le deuxième porte sur le soutien. La source établit-elle réellement la proposition avancée ? L’étude de Stanford publiée dans le Journal of Empirical Legal Studies distingue notamment le « misgrounding » : la réponse peut présenter une proposition juridique puis l’adosser à une autorité qui ne la soutient pas.^[1] La référence est réelle, mais le lien probatoire est faux.

Le troisième contrôle est proprement juridique : même si la source existe et soutient la proposition, est-elle applicable aux faits examinés ? Il faut alors vérifier la version du texte, sa période d’effet, le champ matériel et territorial de la règle, les éventuelles exceptions et la qualification des faits.

Une source vraie peut être la mauvaise source

Le benchmark français sur la temporalité du RAG illustre parfaitement ce troisième problème. Les auteurs ont construit un corpus de 32 436 versions d’articles du Code général des impôts couvrant 93 ans. Dans leur track temporel, le RAG fondé sur le corpus statique actuel ne retrouve jamais la version applicable ; un retriever multi-version atteint 98,3 % de précision stricte moyenne.^[2]

Le système peut donc citer un véritable article du CGI, dans une rédaction authentique, et se tromper parce que cette rédaction ne gouvernait pas la période concernée. La réponse est documentée. Elle n’est pas juridiquement fondée.

La temporalité n’est qu’un exemple. Une décision peut porter sur une question voisine sans être transposable. Une doctrine administrative peut être exacte sans être opposable dans le sens invoqué. Une règle générale peut être neutralisée par une exception spéciale. Une convention peut exister sans produire encore ses effets pour l’impôt examiné.

La citation contrôle le matériau. Elle n’accomplit pas le travail d’applicabilité.

La source peut renforcer à tort la confiance

Une réponse sans référence invite à la prudence. Une réponse assortie de trois liens officiels paraît plus solide. Si les extraits sont exacts, la confiance augmente encore.

C’est précisément ce qui rend l’erreur délicate. Le problème n’est plus seulement l’hallucination spectaculaire, mais la note propre, vraisemblable et abondamment sourcée dont l’erreur se trouve dans une opération moins visible : mauvaise version, prémisse fausse, qualification prématurée ou mauvaise articulation entre deux normes. L’étude de 2026 sur huit systèmes Legal RAG montre d’ailleurs que les hallucinations persistent malgré l’accès au corpus, avec une difficulté marquée pour les questions reposant sur une hypothèse erronée.^[3]

De la citation au chemin contrôlable

L’enjeu n’est donc pas de réduire les citations, mais d’accroître le contrôle autour d’elles.

Quelle proposition précise la source établit-elle ? Pourquoi cette version a-t-elle été sélectionnée ? Quelle date a été utilisée ? Quelle qualification factuelle conditionne la règle ? L’exception a-t-elle été testée ? Quels éléments restent inconnus ?

À partir de là, la citation cesse d’être un sceau placé au bout d’une phrase. Elle devient une pièce d’un raisonnement que le lecteur peut suivre et contester.

En droit, la source est indispensable. Elle est le début du contrôle, pas sa fin.