Kepatuhan Regulasi Pemicu Penerapan Penanda Digital
Identifikasi konten visual berbasis kecerdasan buatan seperti gambar atau video relatif lebih mudah dilakukan dibanding tulisan berupa teks biasa. Guna menjawab tantangan tersebut, pengembang teknologi AI mulai menghadirkan sistem penanda khusus yang dapat mendeteksi teks buatan mesin.
Langkah ini diambil untuk memenuhi ketetapan dalam EU AI Act (undang-undang kecerdasan buatan Uni Eropa), yang mewajibkan para penyedia layanan AI menyertakan format penanda yang dapat dibaca oleh mesin pada seluruh hasil konten buatan mereka.
Cara Kerja Teknologi TextGrain
Teknologi penanda digital berbasis teks yang dinamakan textGrain ini bekerja dengan menyisipkan sinyal statistik pada susunan kata yang diproduksi oleh model kecerdasan buatan. Selanjutnya, sistem detektor khusus akan memindai keberadaan sinyal tersebut untuk memverifikasi keaslian pembuatannya.
Meskipun diklaim memiliki tingkat akurasi yang memadai, teknologi ini masih memiliki beberapa keterbatasan teknis:
- Risiko pengenalan keliru dalam bentuk false positive maupun false negative.
- Teks yang berukuran terlalu pendek lebih sulit terdeteksi oleh sistem pemindai.
- Proses penyuntingan kata secara manual dapat melemahkan keterbacaan sinyal penanda.
- Sistem tidak dapat mengukur sejauh mana porsi kontribusi manusia atau menilai kebenaran informasi dalam teks.
Uji Coba Terbatas dan Peluncuran Regional
Penerapan penanda tak kasatmata ini diawali untuk seluruh pengguna layanan di wilayah Uni Eropa, sementara akses sistem detektor dibuka secara terbatas bagi para peneliti dan organisasi ahli yang terverifikasi. Pengembang memanfaatkan mekanisme uji coba regional ini untuk mengumpulkan masukan dari penggunaan langsung di lapangan sebelum menentukan langkah operasional berikutnya.
