Score de confiance : un banc d'essai pour les IA appliquées à la loi
Aucune table renseignée
Ce contenu est contributif, il n'est pas rédigé par l'Assemblée nationale.
De nombreuses IA vont être construites ce week-end sur les données parlementaires. Mais peut-on leur faire confiance ? Une réponse fausse, non sourcée ou manipulable peut tromper un citoyen ou un parlementaire. Ce défi crée un banc d'essai de confiance : une grille de critères objectifs (exactitude, sources, hallucinations, robustesse aux manipulations, prudence, conformité) et un outil qui note la fiabilité de tout assistant IA législatif.
Le thème du hackathon est « une IA de confiance ». Mon défi mesure la confiance qu'on peut réellement accorder à une IA appliquée à la loi.
Il repose sur une grille d'évaluation en 7 critères, inspirée des pratiques d'homologation de sécurité et d'analyse de risque (ISO 27005, EBIOS RM) adaptées à l'IA :
-Exactitude juridique
-Ancrage et traçabilité des sources
-Taux d'hallucination
-Robustesse aux injections de prompt / manipulations
-Prudence (sait-il dire je ne sais pas ?)
Transparence et conformité (RGPD, AI Act)
Reproductibilité
Aucune image détectée.
Aucun document détecté.
Informations du défi
Porteur du défi
Contributeurs
Aucun contributeur détecté dans le dépôt GIT.