Apa itu AI yang dapat dilacak?
Sebuah keluaran terlihat benar saja tidak cukup, harus bisa ditunjukkan dari mana asalnya. Asal-usul, jejak audit, dan reproduksibilitas dibahas dalam panduan ini beserta definisi dan sumbernya.
Apa itu AI yang dapat dilacak?
AI yang dapat dilacak adalah sistem yang mencatat setiap langkah yang menghasilkan sebuah keluaran dalam bentuk yang bisa dibaca mesin. Catatan itu mencakup data yang digunakan, metode, parameter, dan siapa yang menjalankan operasi itu; keluarannya berjalan bersama catatannya.
Nama teknis bidang ini adalah informasi asal-usul (provenance). Model data PROV milik W3C mendefinisikannya lewat tiga elemen: entitas (entity), aktivitas (activity), dan agen (agent, orang, organisasi, atau perangkat lunak yang bertanggung jawab) (W3C, 2013).
Keterlacakan dan keterjelasan (explainability) bukan hal yang sama: keterjelasan menafsirkan mengapa sebuah model mencapai sebuah hasil, keterlacakan hanya mencatat masukan mana, operasi mana, keluaran mana. Sebuah penjelasan yang dibuat tanpa keterlacakan tidak bisa diverifikasi dengan sendirinya.
Keterlacakan bukan jaminan kebenaran; sebuah sistem yang menerapkan metode yang salah pada data yang salah tetap bisa menyimpan catatan yang lengkap, dan catatan itu tidak menyembunyikan kesalahannya. Yang diberikannya adalah hasil itu bisa diaudit, bukan bahwa hasil itu benar.
Pertanyaan yang membuat ini konkret: bisakah pihak ketiga mereproduksi sebuah keluaran hanya dengan menggunakan catatannya? Jika tidak, tidak ada hasil yang bisa dipertahankan.
Apa yang dibutuhkan agar sebuah keluaran dianggap dapat dilacak?
Agar sebuah keluaran dianggap dapat dilacak, catatannya membutuhkan enam hal: data masukan, metode beserta versinya, parameter, hasil antara, keluaran itu sendiri, dan tanda waktu. Jika salah satunya hilang, keluaran itu tidak bisa ditelusuri kembali.
Data masukan
Bukan hanya nama berkas, tapi identitas berkas yang tidak berubah. Ukuran, jumlah bidang, dan tanggal pengambilan juga masuk ke dalam catatan.
Metode dan versinya
Nama metode saja tidak cukup; implementasi yang berbeda bisa memberi hasil yang berbeda. Menautkan kajian asli yang mendasarinya memungkinkan pembaca memverifikasi definisinya.
Parameter
Nilai ambang batas, bobot, pilihan normalisasi, benih keacakan; parameter yang dibiarkan pada nilai default juga masuk ke dalam catatan.
Langkah antara
Setiap transformasi antara masukan dan keluaran. Jika tidak dicatat, penelusuran kesalahan menjadi mustahil.
Keluaran
Hasilnya sendiri dan bentuk saat diproduksi. Setiap berkas yang diekspor tetap terikat pada baris catatan asalnya.
Tanda waktu dan agen
Kapan operasi itu berjalan dan atas permintaan siapa; ini adalah informasi pertama yang ditanyakan saat audit.
Apa perbedaan antara reproduksibilitas dan replikasi?
Reproduksibilitas (reproducibility) adalah orang lain mencapai hasil yang sama dengan data dan langkah yang sama. Replikasi (replication) adalah mencapai temuan yang sama dalam kajian independen dengan data baru; yang pertama menguji perhitungannya, yang kedua menguji generalitas temuannya.
Peng (2011) mengusulkan reproduksibilitas sebagai standar minimum dalam ilmu komputasi. Mengumpulkan data secara independen itu mahal; membuat data dan kode dapat diakses adalah syarat yang murah sebagai perbandingan, dan membuat perhitungannya bisa diaudit.
Pada satu ujung hanya ada teks publikasi, dan pembaca harus mempercayai penulisnya; pada ujung yang lain, data, kode, dan lingkungan runtime dipublikasikan bersama-sama. Keterlacakan adalah infrastruktur untuk bergerak naik pada skala ini.
Pencatatan dalam praktiknya terbagi dalam tiga judul: versi data, versi kode, dan identitas lingkungan tempatnya berjalan. Yang ketiga paling sering dilewatkan; lingkungan yang tidak dituliskan berarti hasilnya kembali setahun kemudian dengan perbedaan yang tidak bisa dijelaskan.
Perbedaan ini menajam dalam alur kerja berbantuan AI: model itu sendiri, versinya, dan parameter jalannya harus masuk ke dalam catatan.
Mengapa alat obrolan tujuan umum tidak cukup untuk pekerjaan ilmiah?
Alat obrolan tujuan umum dirancang untuk menghasilkan teks bebas, bukan untuk menjalankan alur kerja yang terdefinisi. Masukan yang sama bisa memberi keluaran yang berbeda pada eksekusi yang berbeda, langkah antara tidak terlihat, dan sebuah kutipan tidak diverifikasi di dalam alat itu.
Ini bukan perbandingan mutu, melainkan perbedaan ranah penggunaan: masalahnya adalah ketika keluaran itu menjadi masukan bagi sebuah rantai yang membawa klaim ilmiah.
- Ketakpastian: pembuatannya bergantung pada penyamplingan, artinya prompt yang sama tidak wajib memberi hasil yang sama.
- Keterverifikasian sumber: sebuah kutipan yang muncul dalam teks tidak terikat pada sebuah catatan di dalam alat itu.
- Langkah antara yang tidak terlihat: jika perhitungannya salah, tidak bisa ditunjukkan pada langkah mana kesalahan itu terjadi.
- Ketakstabilan versi: modelnya diperbarui di latar belakang; versi yang tidak tercatat tidak bisa dipertahankan.
Dalam sistem yang dapat dilacak, keempat hal ini tertutup menurut definisi: metodenya adalah sebuah perhitungan yang terdefinisi, versinya tertulis, bidang sumbernya berasal dari sebuah catatan yang terpisah.
Mengapa dokumentasi data dan model itu penting?
Untuk menilai keluaran sebuah model, Anda perlu tahu data apa yang digunakan untuk melatihnya dan untuk penggunaan apa model itu dirancang. Informasi ini dituliskan sebagai dokumen terpisah: lembar data (datasheet) di sisi data, kartu model (model card) di sisi model.
Gagasan lembar data diusulkan oleh Gebru dkk. (2021): tidak ada insinyur yang memasang sebuah komponen tanpa membaca lembar datanya, tapi kumpulan data digunakan tanpa lembar data seperti itu. Usulannya adalah sebuah dokumen yang menjelaskan tujuan, isi, dan penggunaan yang tidak direkomendasikan dari kumpulan itu.
Kartu model melakukan pekerjaan yang sama untuk model (Mitchell dkk., 2019): penggunaan yang dimaksudkan, kondisi dan kelompok mana kinerjanya diukur, dan batasan yang diketahui. Sebuah model bisa terlihat baik secara keseluruhan tapi berkinerja buruk secara nyata pada sebuah subkelompok.
Keduanya adalah sisi statis dari keterlacakan. Jika masukan dari sebuah perhitungan yang tercatat lengkap adalah kumpulan data yang tidak terdokumentasi, rantai itu putus di titik itu.
Masukan sama, manifest sama, keluaran sama. Matriks antara disimpan.
Apa kata prinsip FAIR?
Prinsip FAIR meminta agar data penelitian bisa ditemukan (findable), diakses (accessible), dioperasikan bersama (interoperable), dan digunakan kembali (reusable). Penekanan sebenarnya ada di sisi mesin (Wilkinson dkk., 2016).
- Bisa ditemukan: data diberi pengenal persisten dan terdaftar dalam indeks yang bisa dicari.
- Bisa diakses: bahkan jika datanya tertutup, metadatanya tetap bisa diakses.
- Bisa dioperasikan bersama: bahasa representasi bersama dan kosakata bidang yang diterima digunakan.
- Bisa digunakan kembali: lisensi penggunaan dinyatakan secara jelas, asal-usulnya dicantumkan.
Menurut FAIR, sebuah data tidak dianggap bisa digunakan kembali kecuali dari mana asalnya dinyatakan. Keterlacakan karena itu adalah syarat penggunaan kembali, bukan fitur tambahan.
Cakupan prinsip ini luas: mencakup metadata yang mendeskripsikan data itu juga. Bahkan data yang tertutup pun harus tetap terlihat dalam hal apa dirinya dan milik siapa.
Apa yang diminta regulasi?
Undang-Undang AI Uni Eropa meminta sistem berisiko tinggi untuk menyimpan dokumentasi teknis dan menghasilkan catatan kejadian otomatis (Uni Eropa, 2024).
Ekspektasi ini bermuara pada tempat yang sama dengan diskusi reproduksibilitas ilmiah: dokumentasi menuliskan apa yang dilakukan, pencatatan otomatis membuat eksekusi bisa dilacak.
Satu catatan: cakupan undang-undang ini berbeda menurut kelas risiko, tidak semua produk AI berisiko tinggi. Untuk penilaian yang mengikat, konsultasikan teksnya sendiri dan pendapat hukum.
Untuk sisi Turki, panduan ini tidak menuliskan klaim regulasi apa pun: membiarkannya kosong, tanpa sumber yang terverifikasi, lebih baik daripada menuliskan sebuah tebakan.
Seperti apa jejak audit dalam praktiknya?
Jejak audit adalah sebuah log berurutan waktu yang mencatat setiap operasi dalam satu baris. Satu baris membawa tanda waktu, agen, masukan, metode, dan keluaran; koreksi tidak ditulis di atas baris lama, baris baru ditambahkan.
Tabel di bawah menunjukkan bagaimana sebuah analisis keputusan terlihat dalam log; proses hierarki analitik (Saaty, 1980) menghasilkan bobotnya, peringkatnya dihitung dalam langkah terpisah.
| Waktu | Agen | Masukan | Metode dan versi | Keluaran |
|---|---|---|---|---|
| 2026-08-06 09:14 | a.yilmaz | karar-matrisi-v1.csv | validasi data 2.1 | laporan sel yang hilang |
| 2026-08-06 09:22 | a.yilmaz | karar-matrisi-v1.csv | normalisasi vektor 1.0 | matriks-ternormalisasi-v1 |
| 2026-08-06 09:25 | a.yilmaz | matriks-ternormalisasi-v1 | pembobotan AHP 1.4 | vektor-bobot-v1 |
| 2026-08-06 09:31 | a.yilmaz | matriks-ternormalisasi-v1 + vektor-bobot-v1 | TOPSIS 2.0 | peringkat-v1 |
| 2026-08-06 09:40 | m.demir | peringkat-v1 | pembuatan laporan 1.2 | laporan-v1.pdf |
Mulai dari berkas laporan pada baris terakhir dan bergerak ke atas, Anda bisa melihat peringkat mana, vektor bobot mana, dan matriks mana yang menjadi asal setiap langkah.
Tiga hal yang perlu diperhatikan: lognya harus tidak berubah, versi metode harus selalu dituliskan. Log ini juga harus bisa ditunjukkan kepada pengguna; sebuah catatan yang hanya ada di log sistem adalah alat debug, bukan jejak audit.
Di mana prinsip-prinsip ini berada dalam produk SciMind?
Aturan-aturan di atas adalah syarat bersama di seluruh keluarga produk. Ketiga platform ini mencatat masukan, menuliskan metode beserta versinya, dan menjaga laporan tetap terikat pada catatan itu.
Anda bisa menemukan panduan lain di halaman panduan. Untuk lisensi institusional, proyek percontohan, dan pengadaan, lihat halaman institusi.
Referensi
- W3C (2013). PROV-DM: The PROV Data Model. W3C Recommendation.
- Peng, R. D. (2011). Reproducible research in computational science. Science, 334(6060), 1226-1227.
- Wilkinson, M. D. dkk. (2016). The FAIR Guiding Principles for scientific data management and stewardship. Scientific Data, 3, 160018.
- Gebru, T. dkk. (2021). Datasheets for datasets. Communications of the ACM, 64(12), 86-92.
- Mitchell, M. dkk. (2019). Model cards for model reporting. FAT* 2019, 220-229.
- Uni Eropa (2024). Undang-Undang Kecerdasan Buatan, Peraturan (EU) 2024/1689.
- Saaty, T. L. (1980). The Analytic Hierarchy Process. McGraw-Hill.
Untuk membangun keterlacakan dalam proses Anda sendiri.
Tuliskan langsung kepada kami untuk pencatatan, jejak audit, dan sisi pelaporan dari analisis yang berjalan di dalam institusi Anda. Kami menyiapkan faktur proforma dan spesifikasi teknis untuk proses pengadaan universitas.