IA et Hallucination : Hallucide

Numéro de table à l'Hôtel de Lassay
S5
Ce contenu est contributif, il n'est pas rédigé par l'Assemblée nationale.
Le contenu de cette page est écrit par les contributeurs du projet depuis le dépôt de code.
À propos du défi
Les IA génératives inventent des faits avec aplomb, jusqu'à leurs propres justifications. En contexte institutionnel, impossible de distinguer une information vérifiée d'un contenu généré. Hallucide répond à ce problème : chaque affirmation est confrontée mot pour mot à la source officielle avant d'être affichée.
Le problème. Les IA génératives produisent des réponses inexactes ou non sourcées, et hallucinent jusqu'à leurs propres justifications : le modèle invente une date, un vote, un mandat, puis fabrique une explication convaincante pour le défendre. Plus la réponse est fluide, plus elle inspire confiance, et c'est précisément ce qui la rend dangereuse. En contexte institutionnel (députés, agents publics, citoyens), distinguer une information vérifiée d'un contenu généré est aujourd'hui impossible à l'œil nu. Une erreur reprise dans une note, une question écrite ou un article engage la responsabilité de son auteur ; l'illusion de fiabilité est le cœur du danger, pas l'erreur elle-même.
Le défi consiste donc à ne jamais laisser une affirmation non vérifiée se présenter comme un fait, sans pour autant priver l'utilisateur de la puissance des modèles génératifs.
La solution. Hallucide est une couche de confiance entre le modèle et l'utilisateur. La réponse est interceptée avant affichage, découpée en affirmations élémentaires, puis chaque affirmation est confrontée à l'open data officiel : articles de code consolidés, questions parlementaires, mandats et commissions des députés, données tabulaires data.gouv.fr. La réponse n'est affichée qu'annotée, affirmation par affirmation, avec sa source datée. Ce que le système ne peut pas sourcer, il le signale au lieu de le présenter comme un fait.
Le verdict ne vient jamais du modèle : un pipeline déterministe (Hallucide) vérifie le verbatim, applique un plancher de risque incontournable, exige une décision humaine pour tout résultat à risque élevé, et journalise chaque étape dans un journal de conformité rejouable. Le modèle de décomposition est interchangeable (Claude, Mistral, Gemini) ; aucun ne juge sa propre fidélité.
Galerie d'images
Documents du défi
Informations du défi
Livrables du défi
Ressources utilisées
Députés en exercice Assemblée nationaleHistorique des députés Assemblée nationaleQuestions de l'Assemblée nationale au Gouvernement Assemblée nationaleQuestions écrites de l'Assemblée nationale au Gouvernement Assemblée nationaleQuestions orales de l'Assemblée nationale au Gouvernement Assemblée nationaleCodes, lois et règlements consolidés Premier ministreServeur MCP - Accès unifié Parlement / Législation / Service Public Assemblée nationale & communauté