İzlenebilir yapay zekâ nedir?
Bir çıktının doğru görünmesi yetmez, nereden geldiğinin gösterilebilmesi gerekir. Köken bilgisi, denetim izi ve yeniden üretilebilirlik bu rehberde tanımlarıyla ve kaynaklarıyla duruyor.
İzlenebilir yapay zekâ nedir?
İzlenebilir yapay zekâ, bir çıktıyı üreten bütün adımların makine okunabilir biçimde kaydedildiği sistemdir. Kayıt; kullanılan veriyi, yöntemi, parametreleri ve işlemi yapanı içerir; çıktı kaydıyla birlikte dolaşır.
Bu alanın teknik adı köken bilgisidir (provenance). W3C'nin PROV veri modeli bunu üç öğeyle tanımlar: varlık (entity), etkinlik (activity) ve fail (agent, sorumlu kişi ya da yazılım) (W3C, 2013).
İzlenebilirlik ile açıklanabilirlik (explainability) aynı şey değil: açıklanabilirlik bir modelin sonuca neden vardığını yorumlar, izlenebilirlik yalnız hangi girdi, hangi işlem, hangi çıktı olduğunun kaydını tutar. İzlenebilirlik olmadan yapılan açıklama doğrulanamaz.
İzlenebilirlik doğruluk garantisi değildir; yanlış bir yöntemi yanlış veriye uygulayan sistem de tam kayıt tutabilir, o kayıt hatayı gizlemez. Verdiği şey doğru sonuç değil, denetlenebilirliktir.
Ayrımı somutlaştıran soru şu: üçüncü bir kişi yalnız kayda bakarak aynı çıktıyı yeniden üretebilir mi? Hayırsa savunulabilir bir sonuç yoktur.
Bir çıktının izlenebilir olması için ne gerekir?
Bir çıktının izlenebilir sayılması için altı bilgi kayıtta bulunmalı: girdi verisi, yöntem ve sürümü, parametreler, ara adımların sonuçları, çıktının kendisi ve zaman damgası. Biri eksikse çıktı geriye izlenemez.
Girdi verisi
Yalnız dosya adı değil, dosyanın değişmez kimliği. Boyutu, alan sayısı ve alındığı tarih de kayda girer.
Yöntem ve sürümü
Yöntemin adı tek başına yetmez; farklı uygulamalar farklı sonuç verebilir. Dayandığı özgün çalışma da bağlanırsa tanım doğrulanabilir.
Parametreler
Eşik değerleri, ağırlıklar, normalizasyon tercihi, rastgelelik tohumu; varsayılan bırakılan bir parametre de kayda geçer.
Ara adımlar
Girdi ile çıktı arasındaki her dönüşüm. Kaydedilmezse hata ayıklamak imkânsız olur.
Çıktı
Sonucun kendisi ve üretildiği biçim. Her dosya, üretildiği kayıt satırına bağlı kalır.
Zaman damgası ve fail
İşlemin ne zaman ve kimin talebiyle koştuğu; denetimde ilk sorulan bilgi budur.
Yeniden üretilebilirlik ile tekrarlanabilirlik arasındaki fark ne?
Yeniden üretilebilirlik (reproducibility), aynı veri ve adımlarla başkasının aynı sonuca ulaşmasıdır. Tekrarlanabilirlik (replication) yeni veriyle bağımsız bir çalışmada aynı bulguya ulaşılmasıdır; ilki hesabı, ikincisi bulgunun genelliğini sınar.
Peng (2011) yeniden üretilebilirliği hesaplamalı bilimde asgari standart önerir. Veriyi bağımsız toplamak pahalıdır; veri ve kodun erişilebilir olması ise ucuz bir şart ve iddianın hesap tarafını denetlenebilir kılar.
Bir uçta yalnız yayın metni vardır, okuyucu yazara güvenmek zorundadır; diğer uçta veri, kod ve ortam birlikte yayınlanır, okuyucu tabloyu kendi bilgisayarında yeniden üretir. İzlenebilirlik bu ölçekte yukarı gitmenin altyapısıdır.
Kayıt tarafı pratikte üç başlıkta toplanır: verinin sürümü, kodun sürümü ve çalıştığı ortamın künyesi. Üçüncüsü en sık atlanır; ortam yazılmadığında sonuç bir yıl sonra açıklanamaz bir farkla döner.
Yapay zekâ destekli bir iş akışında bu ayrım keskinleşir: modelin kendisi, sürümü ve parametreleri kayda girmelidir.
Genel amaçlı bir sohbet aracı neden bilimsel iş akışı için yeterli değil?
Genel amaçlı sohbet araçları serbest metin üretmek için tasarlandı, tanımlı bir iş akışı için değil. Aynı girdi farklı çalıştırmada farklı çıktı verebilir, ara adımlar görünmez ve kaynağın var olup olmadığı doğrulanmaz.
Bu bir kalite karşılaştırması değil, kullanım alanı ayrımıdır: sorun, çıktının bilimsel bir zincire girdi olmasıdır.
- Belirlenimsizlik: üretim örneklemeye dayanır, aynı istem aynı sonucu vermek zorunda değildir.
- Kaynak doğrulanabilirliği: metindeki bir atıf, biçim olarak doğru görünse de aracın içinde bir kayda bağlı değildir.
- Ara adımın görünmemesi: hesap yanlışsa hangi adımda yanlış olduğu gösterilemez.
- Sürüm oynaklığı: model arka planda güncellenir, hangi sürümün üretildiği kayıtta yoksa savunulamaz.
İzlenebilir bir sistemde bu dördü tanım gereği kapalıdır: yöntem tanımlı bir hesaptır, sürümü yazılıdır, kaynak alanı ayrı bir kayıttan gelir.
Veri ve model belgelendirmesi neden önemli?
Bir modelin çıktısını değerlendirmek için hangi veriyle eğitildiğini ve hangi kullanım için tasarlandığını bilmek gerekir. Bu bilgi ayrı bir belge olarak yazılır: veri tarafında künye (datasheet), model tarafında model kartı (model card).
Veri künyesi fikrini Gebru ve ark. (2021) önerdi: hiçbir mühendis bir parçayı künyesini okumadan devreye koymaz, ama veri kümeleri künyesiz kullanılıyor. Öneri, kümenin amacını, içeriğini ve önerilmeyen kullanımları anlatan bir belgedir.
Model kartı aynı işi model için yapar (Mitchell ve ark., 2019): amaçlanan kullanımı, başarımın hangi koşul ve grupta ölçüldüğünü ve bilinen sınırları yazar. Bir model bütünde iyi görünüp bir alt grupta belirgin kötü çalışabilir.
İkisi izlenebilirliğin statik tarafıdır. Girdi belgelenmemiş bir veri kümesiyse zincir orada kopar.
Aynı girdi, aynı manifest, aynı çıktı. Ara matrisler saklanır.
FAIR ilkeleri ne diyor?
FAIR ilkeleri araştırma verisinin bulunabilir (findable), erişilebilir (accessible), birlikte çalışabilir (interoperable) ve yeniden kullanılabilir (reusable) olmasını ister. Vurgu makine tarafındadır (Wilkinson ve ark., 2016).
- Bulunabilir: veriye kalıcı bir tanımlayıcı verilir ve aranabilir bir dizinde kayıtlı olur.
- Erişilebilir: veri kapalı olsa bile üst verisi erişilebilir kalır.
- Birlikte çalışabilir: ortak bir gösterim dili ve alanın sözlükleri kullanılır.
- Yeniden kullanılabilir: kullanım lisansı açıkça yazılır, kökeni belirtilir.
FAIR'e göre bir veri, nereden geldiği belirtilmediği sürece yeniden kullanılabilir sayılmaz. İzlenebilirlik, yeniden kullanımın şartıdır.
İlkelerin kapsamı geniştir: veriyi tanımlayan üst veriyi de kapsar. Veri kapatılsa bile üst verisi bulunabilir kalmalıdır.
Mevzuat ne istiyor?
Avrupa Birliği Yapay Zekâ Tüzüğü, yüksek riskli sistemlerden teknik dokümantasyon tutmasını ve otomatik olay kaydı üretmesini ister (Avrupa Birliği, 2024).
Beklenti bilimsel yeniden üretilebilirlik tartışmasıyla aynı yere çıkar: dokümantasyon ne yapıldığını yazılı hâle getirir, otomatik kayıt çalıştırmaları izlenebilir kılar.
Bir uyarı: tüzüğün kapsamı risk sınıfına göre değişir, her ürün yüksek riskli değildir. Bağlayıcı bir değerlendirme için hukuk görüşüne başvurun.
Türkiye tarafı için bu rehberde bir düzenleme iddiası yazılmıyor: doğrulanmış bir kaynak olmadığı sürece boş bırakmak, tahmin yazmaktan iyidir.
Bir denetim izi pratikte neye benzer?
Denetim izi, her işlemi tek satırda kaydeden zaman sıralı bir kütüktür. Bir satır zaman damgası, fail, girdi, yöntem ve çıktı taşır; düzeltme eski satırın üstüne yazılmaz, yeni satır eklenir.
Aşağıdaki tablo bir karar analizinin kütükteki görünümü; analitik hiyerarşi süreci (Saaty, 1980) ağırlıkları üretiyor, sıralama ayrı bir adımda hesaplanıyor.
| Zaman | Fail | Girdi | Yöntem ve sürüm | Çıktı |
|---|---|---|---|---|
| 2026-08-06 09:14 | a.yilmaz | karar-matrisi-v1.csv | veri doğrulama 2.1 | eksik hücre raporu |
| 2026-08-06 09:22 | a.yilmaz | karar-matrisi-v1.csv | vektör normalizasyonu 1.0 | normalize-matris-v1 |
| 2026-08-06 09:25 | a.yilmaz | normalize-matris-v1 | AHP ağırlıklandırma 1.4 | agirlik-vektoru-v1 |
| 2026-08-06 09:31 | a.yilmaz | normalize-matris-v1 + agirlik-vektoru-v1 | TOPSIS 2.0 | siralama-v1 |
| 2026-08-06 09:40 | m.demir | siralama-v1 | rapor üretimi 1.2 | rapor-v1.pdf |
Son satırdaki rapordan yukarı gidildiğinde, hangi sıralamadan, hangi ağırlık vektöründen ve hangi normalize matristen geldiği görülür.
Üç noktaya dikkat: kütük değişmez olmalı, yöntem sürümü mutlaka yazılmalı. Kütük ayrıca kullanıcıya gösterilebilir olmalı; sistem günlüğündeki kayıt denetim izi değil, hata ayıklama aracıdır.
Bu ilkeler SciMind ürünlerinde nereye oturuyor?
Yukarıdaki kurallar tek ürünün özelliği değil, ürün ailesinin ortak şartı. Üç platform da girdiyi kaydeder, yöntemi sürümüyle yazar, rapor bu kayda bağlı kalır.
Diğer rehberler rehber sayfasında. Kurumsal lisans, pilot uygulama ve satın alma tarafı için kurumlar sayfasına bakabilirsiniz.
Kaynaklar
- W3C (2013). PROV-DM: The PROV Data Model. W3C Recommendation.
- Peng, R. D. (2011). Reproducible research in computational science. Science, 334(6060), 1226-1227.
- Wilkinson, M. D. ve ark. (2016). The FAIR Guiding Principles for scientific data management and stewardship. Scientific Data, 3, 160018.
- Gebru, T. ve ark. (2021). Datasheets for datasets. Communications of the ACM, 64(12), 86-92.
- Mitchell, M. ve ark. (2019). Model cards for model reporting. FAT* 2019, 220-229.
- Avrupa Birliği (2024). Yapay Zeka Tüzüğü, (AB) 2024/1689 sayılı Tüzük.
- Saaty, T. L. (1980). The Analytic Hierarchy Process. McGraw-Hill.
İzlenebilirliği kendi sürecinizde kurmak için.
Kurum içinde yürüyen analizlerin kayıt altına alınması, denetim izi ve raporlama tarafı için doğrudan yazın. Üniversite satın alma süreçlerinde proforma fatura ve teknik şartname hazırlıyoruz.