¿Qué es la IA trazable?
No basta con que un resultado parezca correcto, hay que poder mostrar de dónde viene. La procedencia, el registro de auditoría y la reproducibilidad se tratan en esta guía con sus definiciones y fuentes.
¿Qué es la IA trazable?
La IA trazable es un sistema en el que cada paso que produce un resultado queda registrado de forma legible por máquina. El registro incluye los datos, el método, los parámetros y quién realizó la operación; el resultado viaja junto con su registro.
El nombre técnico de este campo es procedencia. El modelo de datos PROV del W3C lo define mediante tres elementos: entidad, actividad y agente (la persona, organización o software responsable) (W3C, 2013).
Trazabilidad y explicabilidad no son lo mismo: la explicabilidad interpreta por qué un modelo llegó a un resultado, la trazabilidad solo registra qué entrada, qué operación, qué resultado. Una explicación hecha sin trazabilidad no puede verificarse por sí sola.
La trazabilidad no es garantía de corrección; un sistema que aplica el método equivocado a los datos equivocados también puede mantener un registro completo, y ese registro no oculta el error. Lo que aporta es que el resultado pueda auditarse, no que sea correcto.
La pregunta que lo concreta: ¿puede un tercero reproducir un resultado usando solo el registro? Si no, no hay un resultado defendible.
¿Qué necesita un resultado para contar como trazable?
Para que un resultado cuente como trazable, el registro necesita seis cosas: los datos de entrada, el método y su versión, los parámetros, los resultados intermedios, el resultado en sí y la marca de tiempo. Si falta alguna, el resultado no puede rastrearse hacia atrás.
Datos de entrada
No solo el nombre del archivo, sino su identidad inmutable. El tamaño, el número de campos y la fecha de recogida también entran en el registro.
Método y su versión
El nombre del método por sí solo no basta; implementaciones distintas pueden dar resultados distintos. Vincular el estudio original en el que se basa permite al lector verificar la definición.
Parámetros
Valores umbral, pesos, elección de normalización, semilla aleatoria. Un parámetro dejado por defecto también entra en el registro.
Pasos intermedios
Cada transformación entre la entrada y el resultado. Sin registrar, depurar el error se vuelve imposible.
Resultado
El resultado en sí y la forma en que se produjo. Cada archivo exportado queda ligado a la fila de registro de la que procede.
Marca de tiempo y agente
Cuándo se ejecutó la operación y a petición de quién; lo primero que se pide en una auditoría.
¿Cuál es la diferencia entre reproducibilidad y replicación?
La reproducibilidad es que otra persona llegue al mismo resultado con los mismos datos y pasos. La replicación es llegar al mismo hallazgo en un estudio independiente con datos nuevos; la primera pone a prueba el cálculo, la segunda la generalidad del hallazgo.
Peng (2011) propone la reproducibilidad como el estándar mínimo en la ciencia computacional. Recoger los datos de forma independiente es caro; hacer que los datos y el código sean accesibles junto con la publicación es un requisito barato en comparación, y hace auditable el cálculo.
En un extremo solo está el texto publicado y el lector tiene que confiar en el autor; en el otro, los datos, el código y el entorno de ejecución se publican juntos. La trazabilidad es la infraestructura para avanzar en esa escala.
El registro en la práctica se agrupa en tres apartados: la versión de los datos, la versión del código y el entorno de ejecución. El tercero es el que más se salta; un entorno no escrito hace que el resultado vuelva un año después con una diferencia inexplicable.
Esta distinción se agudiza en un flujo de trabajo asistido por IA: el propio modelo, su versión y sus parámetros de ejecución deben entrar en el registro.
¿Por qué no basta una herramienta de chat de propósito general para el trabajo científico?
Las herramientas de chat de propósito general están diseñadas para generar texto libre, no para ejecutar un flujo de trabajo definido. La misma entrada puede dar un resultado distinto en ejecuciones distintas, los pasos intermedios son invisibles y una fuente citada no se verifica dentro de la herramienta.
Es una distinción de uso, no una comparación de calidad: el problema surge cuando el resultado se convierte en entrada de una cadena que porta una afirmación científica.
- Indeterminación: la generación se basa en el muestreo, así que el mismo mensaje no está obligado a dar el mismo resultado.
- Verificabilidad de la fuente: una cita que aparece en el texto no está ligada a un registro dentro de la herramienta.
- Pasos intermedios invisibles: si el cálculo es erróneo, no puede mostrarse en qué paso lo fue.
- Volatilidad de versión: el modelo se actualiza en segundo plano; una versión no registrada no puede defenderse.
En un sistema trazable estos cuatro puntos quedan cerrados por definición: el método es un cálculo definido, su versión está escrita, el campo de fuente procede de un registro aparte.
¿Por qué importa la documentación de datos y de modelos?
Para evaluar el resultado de un modelo hay que saber con qué datos se entrenó y para qué uso se diseñó. Esto se escribe como un documento aparte: la ficha de datos (datasheet) del lado de los datos, la ficha de modelo (model card) del lado del modelo.
La ficha de datos la propusieron Gebru et al. (2021): ningún ingeniero incorpora una pieza a un circuito sin leer su ficha técnica, pero los conjuntos de datos se usan habitualmente sin una. Describe el propósito de un conjunto de datos, su contenido y qué usos no se recomiendan.
La ficha de modelo hace lo mismo para el modelo (Mitchell et al., 2019): los usos previstos, las condiciones en que se midió el desempeño y los límites conocidos. Un modelo puede verse bien en conjunto y rendir notablemente peor en un subgrupo.
Ambas son el lado estático de la trazabilidad. Si la entrada de un cálculo completamente registrado es un conjunto de datos sin documentar, la cadena se rompe ahí.
Misma entrada, mismo manifiesto, mismo resultado. Las matrices intermedias se conservan.
¿Qué dicen los principios FAIR?
Los principios FAIR piden que los datos de investigación sean localizables, accesibles, interoperables y reutilizables. El énfasis real está en el lado de la máquina (Wilkinson et al., 2016).
- Localizable: los datos reciben un identificador persistente y quedan registrados en un índice que se puede buscar.
- Accesible: aunque los datos estén cerrados, sus metadatos siguen siendo accesibles.
- Interoperable: los datos usan un lenguaje de representación común y vocabularios aceptados.
- Reutilizable: la licencia de uso se indica de forma explícita, se da su procedencia.
Según FAIR, un dato no es reutilizable a menos que se indique de dónde viene. La trazabilidad es por tanto un requisito de la reutilización, no una función añadida.
El alcance de los principios es amplio: también cubre los metadatos. Incluso los datos cerrados deben seguir siendo visibles en qué son y a quién pertenecen.
¿Qué exige la normativa?
El Reglamento de IA de la Unión Europea exige a los sistemas de IA de alto riesgo mantener documentación técnica y producir registros de eventos automáticos (Unión Europea, 2024).
La expectativa desemboca en el mismo terreno que el debate sobre reproducibilidad científica: la documentación deja por escrito qué hace el sistema, el registro hace trazables las ejecuciones.
Una advertencia: el alcance del Reglamento varía según la clase de riesgo, y no todo producto de IA es de alto riesgo. Consulte el texto mismo y asesoría legal.
Para el lado turco, esta guía no hace ninguna afirmación normativa: dejarlo en blanco, a falta de una fuente verificada, es mejor que suponer.
¿Cómo es un registro de auditoría en la práctica?
Un registro de auditoría es un libro ordenado en el tiempo que anota cada operación en una sola fila: una marca de tiempo, el agente, la entrada, el método y el resultado. Una corrección se añade como fila nueva, no se escribe encima de la antigua.
La tabla siguiente muestra cómo se ve un análisis de decisión en el registro; el proceso analítico jerárquico (Saaty, 1980) produce los pesos, el ranking es un paso aparte.
| Hora | Agente | Entrada | Método y versión | Resultado |
|---|---|---|---|---|
| 2026-08-06 09:14 | a.yilmaz | matriz-decision-v1.csv | validación de datos 2.1 | informe de celdas faltantes |
| 2026-08-06 09:22 | a.yilmaz | matriz-decision-v1.csv | normalización vectorial 1.0 | matriz-normalizada-v1 |
| 2026-08-06 09:25 | a.yilmaz | matriz-normalizada-v1 | ponderación AHP 1.4 | vector-pesos-v1 |
| 2026-08-06 09:31 | a.yilmaz | matriz-normalizada-v1 + vector-pesos-v1 | TOPSIS 2.0 | ranking-v1 |
| 2026-08-06 09:40 | m.demir | ranking-v1 | generación de informe 1.2 | informe-v1.pdf |
Partiendo del archivo de informe de la última fila y subiendo, puede ver de qué ranking, qué vector de pesos y qué matriz procede cada paso.
Tres puntos a vigilar: el registro debe ser inmutable, la versión del método debe escribirse siempre. También hay que mostrarlo al usuario; un registro que solo está en un log de sistema es una herramienta de depuración, no un registro de auditoría.
¿Dónde encajan estos principios en los productos de SciMind?
Las reglas anteriores son un requisito compartido en toda la familia de productos. Las tres plataformas registran la entrada, escriben el método con su versión y mantienen el informe ligado a ese registro.
Puede encontrar otras guías en la página de guías. Para licencias institucionales, despliegue piloto y compras, vea la página de instituciones.
Referencias
- W3C (2013). PROV-DM: The PROV Data Model. W3C Recommendation.
- Peng, R. D. (2011). Reproducible research in computational science. Science, 334(6060), 1226-1227.
- Wilkinson, M. D. et al. (2016). The FAIR Guiding Principles for scientific data management and stewardship. Scientific Data, 3, 160018.
- Gebru, T. et al. (2021). Datasheets for datasets. Communications of the ACM, 64(12), 86-92.
- Mitchell, M. et al. (2019). Model cards for model reporting. FAT* 2019, 220-229.
- Unión Europea (2024). Reglamento de Inteligencia Artificial, Reglamento (UE) 2024/1689.
- Saaty, T. L. (1980). The Analytic Hierarchy Process. McGraw-Hill.
Para incorporar la trazabilidad a su propio proceso.
Escríbanos directamente para el registro, la auditoría y el informe de los análisis que corren dentro de su institución. Preparamos facturas proforma y pliegos técnicos para procesos de compra universitarios.