Qu'est-ce que l'IA traçable ?
Il ne suffit pas qu'un résultat paraisse juste, il faut pouvoir montrer d'où il vient. Provenance, piste d'audit et reproductibilité sont couverts dans ce guide, avec leurs définitions et leurs sources.
Qu'est-ce que l'IA traçable ?
L'IA traçable est un système dans lequel toutes les étapes produisant un résultat sont enregistrées sous une forme lisible par machine. Le registre comprend les données utilisées, la méthode, les paramètres et l'auteur de l'opération ; le résultat circule avec son registre.
Le nom technique de ce domaine est la provenance. Le modèle de données PROV du W3C le définit par trois éléments : l'entité (entity), l'activité (activity) et l'agent (agent, la personne ou le logiciel responsable) (W3C, 2013).
Traçabilité et explicabilité (explainability) ne sont pas la même chose : l'explicabilité interprète pourquoi un modèle est arrivé à un résultat, la traçabilité se contente d'enregistrer quelle entrée, quelle opération, quelle sortie. Une explication faite sans traçabilité ne peut pas être vérifiée par elle-même.
La traçabilité n'est pas une garantie d'exactitude ; un système qui applique une mauvaise méthode à de mauvaises données peut aussi tenir un registre complet, et ce registre ne masque pas l'erreur. Ce qu'elle apporte, c'est que le résultat peut être audité, pas qu'il est correct.
La question qui rend cela concret : un tiers peut-il reproduire un résultat en ne regardant que le registre ? Si non, il n'y a pas de résultat défendable.
Que faut-il pour qu'un résultat soit traçable ?
Pour qu'un résultat compte comme traçable, le registre doit contenir six éléments : les données d'entrée, la méthode et sa version, les paramètres, les résultats intermédiaires, le résultat lui-même et l'horodatage. Si l'un manque, le résultat ne peut pas être retracé.
Données d'entrée
Pas seulement le nom du fichier, mais son identité immuable. La taille, le nombre de champs et la date de collecte entrent aussi dans le registre.
Méthode et sa version
Le nom de la méthode seul ne suffit pas ; des implémentations différentes peuvent donner des résultats différents. Relier l'étude originale sur laquelle elle repose permet au lecteur de vérifier la définition.
Paramètres
Valeurs de seuil, poids, choix de normalisation, graine aléatoire ; un paramètre laissé par défaut entre lui aussi dans le registre.
Étapes intermédiaires
Chaque transformation entre l'entrée et la sortie. Sans enregistrement, le débogage devient impossible.
Résultat
Le résultat lui-même et la forme sous laquelle il a été produit. Chaque fichier exporté reste rattaché à la ligne de registre dont il provient.
Horodatage et agent
Quand l'opération a tourné et à la demande de qui ; c'est la première information demandée lors d'un audit.
Quelle est la différence entre reproductibilité et réplication ?
La reproductibilité (reproducibility) est le fait qu'une autre personne atteigne le même résultat avec les mêmes données et les mêmes étapes. La réplication (replication) est le fait d'atteindre la même conclusion dans une étude indépendante avec de nouvelles données ; la première teste le calcul, la seconde la généralité de la conclusion.
Peng (2011) propose la reproductibilité comme norme minimale en science computationnelle. Recollecter des données de façon indépendante est coûteux ; rendre les données et le code accessibles avec la publication est une exigence peu coûteuse en comparaison, et rend le calcul auditable.
À une extrémité, il n'y a que le texte publié et le lecteur doit faire confiance à l'auteur ; à l'autre, les données, le code et l'environnement d'exécution sont publiés ensemble. La traçabilité est l'infrastructure qui permet de remonter cette échelle.
En pratique, l'enregistrement se répartit en trois volets : la version des données, la version du code et le descriptif de l'environnement d'exécution. Le troisième est celui qu'on saute le plus souvent ; un environnement non écrit fait revenir le résultat un an plus tard avec un écart inexplicable.
Cette distinction se durcit dans un flux de travail assisté par l'IA : le modèle lui-même, sa version et ses paramètres d'exécution doivent entrer dans le registre.
Pourquoi un outil conversationnel généraliste ne suffit-il pas pour un travail scientifique ?
Les outils conversationnels généralistes sont conçus pour générer du texte libre, pas pour exécuter un flux de travail défini. La même entrée peut donner une sortie différente selon l'exécution, les étapes intermédiaires sont invisibles, et une source citée n'est pas vérifiée à l'intérieur de l'outil.
Ce n'est pas une comparaison de qualité mais une distinction d'usage : le problème survient quand le résultat devient une entrée dans une chaîne portant une affirmation scientifique.
- Indétermination : la génération repose sur l'échantillonnage, ce qui signifie que le même prompt n'est pas tenu de donner le même résultat.
- Vérifiabilité de la source : une citation apparaissant dans le texte n'est pas rattachée à un registre à l'intérieur de l'outil.
- Étapes intermédiaires invisibles : si le calcul est faux, il est impossible de montrer à quelle étape.
- Volatilité des versions : le modèle est mis à jour en arrière-plan ; une version non enregistrée ne peut pas être défendue.
Dans un système traçable, ces quatre points sont fermés par définition : la méthode est un calcul défini, sa version est écrite, le champ source vient d'un registre séparé.
Pourquoi la documentation des données et des modèles compte-t-elle ?
Pour évaluer le résultat d'un modèle, il faut savoir avec quelles données il a été entraîné et pour quel usage il a été conçu. Cette information s'écrit comme un document séparé : la fiche technique (datasheet) côté données, la fiche de modèle (model card) côté modèle.
La fiche technique a été proposée par Gebru et al. (2021) : aucun ingénieur n'intègre un composant dans un circuit sans lire sa fiche technique, pourtant les jeux de données sont couramment utilisés sans en avoir une. Elle décrit l'objet, le contenu et les usages non recommandés d'un jeu de données.
La fiche de modèle fait la même chose pour le modèle (Mitchell et al., 2019) : les usages prévus, les conditions dans lesquelles la performance a été mesurée, et les limites connues. Un modèle peut sembler bon dans l'ensemble et nettement moins performant pour un sous-groupe.
Les deux sont le versant statique de la traçabilité. Si l'entrée d'un calcul entièrement enregistré est un jeu de données non documenté, la chaîne se rompt à cet endroit.
Même entrée, même manifeste, même résultat. Les matrices intermédiaires sont conservées.
Que disent les principes FAIR ?
Les principes FAIR demandent que les données de recherche soient trouvables (findable), accessibles (accessible), interopérables (interoperable) et réutilisables (reusable). L'accent porte réellement sur le côté machine (Wilkinson et al., 2016).
- Trouvable : les données reçoivent un identifiant pérenne et sont enregistrées dans un index consultable.
- Accessible : même si les données sont fermées, leurs métadonnées restent accessibles.
- Interopérable : un langage de représentation commun et les vocabulaires du domaine sont utilisés.
- Réutilisable : la licence d'utilisation est écrite explicitement, la provenance est indiquée.
Selon FAIR, une donnée n'est pas considérée réutilisable tant que son origine n'est pas indiquée. La traçabilité est donc une condition de la réutilisation, pas une fonctionnalité ajoutée.
Le périmètre des principes est large : il couvre aussi les métadonnées qui décrivent la donnée. Même une donnée fermée doit rester trouvable dans ce qu'elle est et à qui elle appartient.
Que demande la réglementation ?
L'AI Act de l'Union européenne exige des systèmes d'IA à haut risque qu'ils tiennent une documentation technique et produisent des journaux d'événements automatiques (Union européenne, 2024).
L'attente rejoint le même terrain que le débat sur la reproductibilité scientifique : la documentation met par écrit ce que fait le système, la journalisation rend les exécutions traçables.
Une réserve : le périmètre du texte varie selon la classe de risque, tout produit d'IA n'est pas à haut risque. Consultez le texte lui-même et un avis juridique pour une évaluation contraignante.
Pour le côté turc, ce guide n'énonce aucune affirmation réglementaire : laisser ce point en blanc, faute de source vérifiée, vaut mieux qu'une supposition.
À quoi ressemble une piste d'audit en pratique ?
Une piste d'audit est un registre chronologique qui enregistre chaque opération sur une seule ligne : un horodatage, l'agent, l'entrée, la méthode et le résultat. Une correction s'ajoute comme une nouvelle ligne, elle n'écrase pas l'ancienne.
Le tableau ci-dessous montre à quoi ressemble une analyse de décision dans le registre ; le processus hiérarchique analytique (Saaty, 1980) produit les poids, le classement est une étape séparée.
| Heure | Agent | Entrée | Méthode et version | Résultat |
|---|---|---|---|---|
| 2026-08-06 09:14 | a.yilmaz | karar-matrisi-v1.csv | validation des données 2.1 | rapport de cellules manquantes |
| 2026-08-06 09:22 | a.yilmaz | karar-matrisi-v1.csv | normalisation vectorielle 1.0 | matrice-normalisee-v1 |
| 2026-08-06 09:25 | a.yilmaz | matrice-normalisee-v1 | pondération AHP 1.4 | vecteur-poids-v1 |
| 2026-08-06 09:31 | a.yilmaz | matrice-normalisee-v1 + vecteur-poids-v1 | TOPSIS 2.0 | classement-v1 |
| 2026-08-06 09:40 | m.demir | classement-v1 | génération de rapport 1.2 | rapport-v1.pdf |
En partant du fichier de rapport à la dernière ligne et en remontant, on voit de quel classement, de quel vecteur de poids et de quelle matrice chaque étape provient.
Trois points à surveiller : le registre doit être immuable, la version de la méthode doit toujours être écrite. Il doit aussi pouvoir être montré à l'utilisateur ; un enregistrement qui ne vit que dans un journal système est un outil de débogage, pas une piste d'audit.
Où ces principes se retrouvent-ils dans les produits SciMind ?
Les règles ci-dessus ne sont pas une particularité d'un seul produit, mais une exigence commune à toute la famille de produits. Les trois plateformes enregistrent l'entrée, écrivent la méthode avec sa version, et le rapport reste rattaché à ce registre.
Vous trouverez d'autres guides sur la page des guides. Pour la licence institutionnelle, le déploiement pilote et les achats, consultez la page institutions.
Références
- W3C (2013). PROV-DM: The PROV Data Model. W3C Recommendation.
- Peng, R. D. (2011). Reproducible research in computational science. Science, 334(6060), 1226-1227.
- Wilkinson, M. D. et al. (2016). The FAIR Guiding Principles for scientific data management and stewardship. Scientific Data, 3, 160018.
- Gebru, T. et al. (2021). Datasheets for datasets. Communications of the ACM, 64(12), 86-92.
- Mitchell, M. et al. (2019). Model cards for model reporting. FAT* 2019, 220-229.
- Union européenne (2024). Règlement sur l'intelligence artificielle, règlement (UE) 2024/1689.
- Saaty, T. L. (1980). The Analytic Hierarchy Process. McGraw-Hill.
Pour intégrer la traçabilité dans votre propre processus.
Écrivez-nous directement pour l'enregistrement, la piste d'audit et le rapport des analyses menées au sein de votre institution. Nous préparons des factures pro forma et des cahiers des charges techniques pour les procédures d'achat universitaires.