Ketika sebuah foto, rekaman suara, atau video beredar di grup keluarga, pertanyaan pentingnya bukan lagi hanya “ini asli atau palsu?”. Kita juga perlu tahu: siapa yang membuatnya, apakah pernah diedit, dan apakah sebagian prosesnya melibatkan AI?
Kebutuhan itu mendorong perkembangan content provenance, yaitu jejak digital yang menjelaskan asal-usul dan riwayat sebuah konten. Perkembangannya mulai terasa pada 2026. OpenAI, misalnya, memperluas penggunaan Content Credentials, watermark SynthID, dan alat verifikasi publik untuk gambar serta audio yang dibuat dengan perangkatnya. Di Uni Eropa, kewajiban transparansi untuk konten buatan atau manipulasi AI juga mulai berlaku pada 2 Agustus 2026.
Ini bukan berarti internet akan memiliki tombol ajaib untuk memastikan semua konten benar. Namun, setidaknya pengguna mendapat lebih banyak konteks sebelum mempercayai, membagikan, atau memakai sebuah file.
Apa sebenarnya Content Credentials?
Content Credentials adalah informasi yang menempel pada sebuah file dan menjelaskan bagaimana file itu dibuat atau diubah. Bayangkan seperti label riwayat pada sebuah dokumen: foto diambil dengan kamera, kemudian dipotong, diberi warna, dan diekspor oleh aplikasi tertentu.
Standar yang banyak dibicarakan untuk kebutuhan ini adalah C2PA, singkatan dari Coalition for Content Provenance and Authenticity. Standar tersebut menggunakan metadata dan tanda tangan kriptografis agar informasi asal-usul konten dapat diperiksa dan perubahan terhadap riwayatnya bisa diketahui.
Dalam praktiknya, sebuah file dapat menyimpan informasi seperti:
- alat atau aplikasi yang digunakan untuk membuat konten;
- tindakan yang dilakukan, misalnya memotong, menggabungkan, atau menghapus bagian tertentu;
- waktu pembuatan atau perubahan;
- pihak yang menandatangani informasi tersebut; dan
- apakah proses kreatifnya melibatkan AI.
Yang perlu digarisbawahi, Content Credentials tidak menilai apakah isi konten itu benar, bermutu, atau dapat dipercaya. Ia hanya membantu menjawab pertanyaan tentang asal-usul dan proses pembuatannya. Spesifikasi C2PA sendiri menekankan bahwa sistem ini memvalidasi klaim provenance, bukan memberikan penilaian moral atau kebenaran terhadap sebuah konten.
Mengapa watermark saja tidak cukup?
Watermark digital adalah penanda yang disisipkan ke dalam file. Pada audio, misalnya, watermark bisa dibuat tidak terdengar oleh manusia tetapi tetap dapat dibaca oleh alat verifikasi. Pada gambar, watermark serupa dapat membantu mendeteksi bahwa sebuah file berasal dari sistem tertentu.
Masalahnya, satu metode mudah memiliki kelemahan. Metadata dapat hilang ketika file diunggah ulang, dikompres, diubah format, atau hanya difoto ulang dari layar. Sebaliknya, watermark mungkin tidak menyimpan detail riwayat yang cukup lengkap.
Karena itu, pendekatan yang lebih masuk akal adalah memakai beberapa lapisan sekaligus:
- Metadata dan tanda tangan digital untuk menyimpan informasi asal-usul secara rinci.
- Watermark digital untuk mempertahankan sinyal ketika metadata tidak ikut terbawa.
- Alat verifikasi agar pengguna, moderator, jurnalis, atau pengembang dapat memeriksa sinyal tersebut.
OpenAI menjelaskan bahwa gambar yang dibuat dengan sejumlah produknya dapat membawa Content Credentials dan watermark SynthID, sementara audio yang didukung dapat memiliki watermark SynthID. Namun, hasil “tidak terdeteksi” bukan berarti file tersebut pasti dibuat manusia. Sinyalnya bisa saja hilang karena kompresi, tangkapan layar, konversi format, atau proses pengeditan lain.
Perubahan ini penting bagi pekerjaan sehari-hari
Bagi pembaca umum, provenance mungkin terdengar seperti urusan platform besar atau perusahaan media. Padahal, manfaat praktisnya cukup dekat dengan aktivitas sehari-hari.
Seorang pemilik toko dapat memakai gambar hasil AI untuk materi promosi, tetapi tetap mencatat bahwa gambar tersebut bukan foto produk asli. Tim komunikasi dapat memeriksa apakah rekaman suara yang dikirim melalui email benar-benar berasal dari sumber yang diklaim. Editor dapat melihat apakah sebuah ilustrasi hanya diberi koreksi warna atau telah diubah secara substantif.
Untuk organisasi, jejak asal-usul juga dapat membantu membangun prosedur pemeriksaan. Misalnya, file yang dipakai untuk siaran, laporan, atau kampanye publik harus melewati pemeriksaan provenance sebelum dipublikasikan. OpenAI bahkan menyediakan API untuk memeriksa sinyal provenance pada gambar dan audio dalam alur kerja moderasi, pemeriksaan fakta, dan keamanan.
Namun, sistem seperti ini paling berguna jika dipakai sebagai bukti tambahan, bukan sebagai hakim tunggal. Dalam konteks berisiko tinggi—misalnya berita, penipuan, kesehatan, atau keputusan hukum—hasil alat otomatis tetap perlu ditinjau manusia.
Bagaimana aturan transparansi ikut mendorongnya?
Uni Eropa menjadikan transparansi sebagai salah satu bagian dari AI Act. Pedoman resminya menyebut bahwa penyedia sistem AI perlu merancang sistem agar konten buatan atau manipulasi AI memiliki penanda yang dapat dibaca mesin. Untuk kondisi tertentu, pihak yang menggunakan AI juga perlu memberi tahu orang ketika mereka berinteraksi dengan AI atau melihat konten seperti deepfake.
Aturan ini tidak otomatis membuat semua konten di internet mudah diverifikasi. Tantangannya tetap besar: standar harus diterapkan oleh banyak penyedia, platform perlu mempertahankan metadata, dan pengguna harus memahami arti hasil pemeriksaan.
Meski demikian, arahnya jelas. Transparansi konten mulai bergeser dari label sederhana seperti “dibuat dengan AI” menuju sistem yang dapat menyimpan riwayat pembuatan dan perubahan secara lebih terstruktur.
Yang bisa dilakukan sekarang
- Jangan menganggap label AI sebagai bukti kebenaran. Label hanya menjelaskan proses pembuatan, bukan apakah informasi di dalamnya akurat.
- Simpan file asli. Jika Anda membuat atau menerima konten penting, simpan versi pertama sebelum dikompres atau diedit ulang.
- Periksa sumber dan konteks. Metadata yang valid tidak menggantikan pemeriksaan siapa yang menyebarkan konten dan untuk tujuan apa.
- Gunakan alat verifikasi sebagai sinyal tambahan. Hasil terdeteksi berarti ada sinyal tertentu yang ditemukan; hasil tidak terdeteksi bukan bukti bahwa konten itu pasti bukan buatan AI.
- Untuk bisnis, buat aturan internal. Tentukan kapan konten AI wajib diberi label, siapa yang memeriksa, dan kapan persetujuan manusia diperlukan.
Bukan soal memburu semua konten AI
Perdebatan tentang konten buatan AI sering terjebak pada pertanyaan “bagaimana menangkapnya?”. Pendekatan provenance menawarkan pertanyaan yang sedikit berbeda: “informasi apa yang bisa kita berikan agar orang dapat menilai konten dengan lebih baik?”
Itu pendekatan yang lebih realistis. AI akan terus dipakai untuk membuat ilustrasi, suara, video, dan teks. Yang dibutuhkan bukan janji bahwa semua konten dapat dibuktikan secara sempurna, melainkan ekosistem yang membuat asal-usul, perubahan, dan batas kepastian sebuah file lebih mudah dipahami.
Pada akhirnya, jejak digital semacam ini tidak menggantikan penilaian manusia. Ia hanya membantu kita memulai pemeriksaan dari tempat yang lebih baik.
Sumber & bacaan lebih lanjut
- Advancing content provenance for a safer, more transparent AI ecosystem
- Content provenance — OpenAI API
- C2PA Technical Specification 2.4
- Guidelines on transparency obligations for providers and deployers of certain AI systems
– Rio Yotto @rioyotto