L'IA vous cite une loi : comment vérifier avant de l'utiliser

Quand un assistant IA vous cite un article de loi, une décision de justice ou une étude, la seule bonne réaction est d'aller lire le texte d'origine avant de l'utiliser. Relancer la question ou demander à l'IA si elle est sûre d'elle ne prouve rien : un modèle de langage peut inventer une référence plausible et la confirmer avec aplomb.

Cette situation est la première des huit mises en situation de la Boussole IA. Voici pourquoi trois réponses sur quatre sont des pièges.

La situation

Un assistant IA vous cite une référence précise (article de loi, étude, décision de justice) pour appuyer un document. Que faites-vous ?

• A. Vous relancez la question pour voir si la même référence revient.
• B. Vous la reprenez telle quelle, elle a l'air sérieuse.
• C. Vous retrouvez le texte d'origine et le lisez avant de l'utiliser.
• D. Vous demandez à l'IA si elle est sûre de sa source.

La bonne réponse est C.

Pourquoi l'IA invente des références

Un assistant comme ChatGPT, Copilot, Gemini ou Claude ne consulte pas une base de textes officiels quand il vous répond, sauf s'il est explicitement connecté à une recherche. Il produit le texte le plus probable compte tenu de votre question. Une référence juridique a une forme très reconnaissable : un numéro d'article, un code, une date. Le modèle sait produire cette forme. Il ne garantit pas que le contenu existe.

On appelle ce phénomène une hallucination. Le résultat est d'autant plus trompeur qu'il est bien présenté : une citation inventée ressemble exactement à une vraie.

Le cas le plus connu remonte à 2023, aux États-Unis : dans l'affaire Mata contre Avianca, des avocats ont été sanctionnés pour avoir déposé un mémoire citant des décisions de justice qui n'existaient pas, produites par ChatGPT. Ils avaient même demandé à l'outil de confirmer que les décisions étaient réelles. Il l'avait fait.

Pourquoi A, B et D sont des pièges

A. Relancer la question

Si la même référence revient, on a l'impression d'une confirmation. Ce n'est pas le cas : le modèle peut reproduire la même erreur de façon stable, simplement parce qu'elle reste la réponse la plus probable pour lui. La constance n'est pas une preuve.

B. La reprendre telle quelle

C'est le réflexe le plus risqué. Une référence fausse dans un courrier, un contrat, une note RH ou une réponse à un client engage votre crédibilité, et parfois votre responsabilité. « Elle avait l'air sérieuse » n'est pas un contrôle.

D. Demander à l'IA si elle est sûre

C'est la réponse qui semble la plus raisonnable, et c'est précisément pour ça qu'elle piège. L'outil vérifie sa réponse avec le même mécanisme que celui qui l'a produite. Il répondra souvent oui, avec des détails supplémentaires qui renforcent l'illusion. Un outil ne peut pas servir de source de contrôle pour lui-même.

La bonne méthode : retourner au texte

1. Demandez la référence exacte : numéro d'article, nom du texte, date, juridiction, auteur de l'étude.
2. Retrouvez-la à la source officielle. Pour le droit français, Légifrance pour les lois, codes et décrets, et Judilibre pour les décisions de la Cour de cassation. Pour une étude, le site de l'organisme qui l'a publiée.
3. Lisez le passage. La référence peut exister mais ne pas dire ce que l'IA lui fait dire, ou avoir été modifiée depuis.
4. Ne gardez que ce que vous avez lu. Si vous ne trouvez pas la source, retirez la référence.

Les outils connectés à une recherche web affichent des liens, ce qui facilite le contrôle. Ils ne le remplacent pas : il faut toujours ouvrir le lien et vérifier que la page dit bien ce qui est annoncé.

Un réflexe à installer dans les équipes

Ce réflexe paraît évident une fois expliqué. Pourtant, il manque souvent, parce que la plupart des salariés ont appris l'IA seuls. D'après une étude Ifop pour Talan (2025), seuls 15 % des salariés ont reçu une formation spécifique à l'IA. Dans une entreprise, une règle simple suffit à éviter l'essentiel des incidents : toute référence produite par l'IA est vérifiée à la source avant d'être utilisée. Elle a sa place dans la charte d'usage de l'IA.

C'est aussi l'un des points que vise l'article 4 de l'AI Act, qui demande depuis février 2025 que le personnel qui utilise l'IA ait un niveau suffisant de maîtrise, ce qui inclut la connaissance de ses limites.

Et vous, quel est votre niveau réel ?

Cette situation est la première de la Boussole IA. Les sept autres portent sur la protection d'un document confidentiel, la rédaction d'une bonne consigne ou l'encadrement d'un agent IA. Le test est gratuit, sans inscription, et prend sept minutes. Pour une vue d'ensemble de votre organisation, il existe aussi le diagnostic IA entreprise.

À lire aussi : Votre métier face à l'IA générative : ce que disent vraiment les études.

Questions fréquentes

Pourquoi ChatGPT invente-t-il des sources ?

Parce qu'il génère le texte le plus probable, sans consulter de base officielle, sauf s'il est connecté à une recherche. Il sait produire la forme d'une référence, pas garantir son existence.

Demander à l'IA de vérifier sa source suffit-il ?

Non. L'outil se vérifie avec le même mécanisme que celui qui a produit l'erreur, et confirme souvent une référence inventée. Le contrôle doit se faire à la source officielle.

Où vérifier une référence juridique française ?

Sur Légifrance pour les lois, codes et décrets, et sur Judilibre pour les décisions de la Cour de cassation.

Les outils d'IA avec recherche web sont-ils fiables pour les sources ?

Ils facilitent le contrôle parce qu'ils affichent des liens, mais il faut toujours ouvrir la page et vérifier qu'elle dit bien ce qui est annoncé.

Conclusion

Une référence produite par l'IA est une piste, pas une preuve. Retrouver le texte d'origine et le lire prend deux minutes ; une référence inventée dans un document envoyé peut coûter beaucoup plus. C'est le premier réflexe à installer, pour soi comme pour ses équipes.