Sultan HB X Jadi Korban Video Rekayasa AI
Gubernur Daerah Istimewa Yogyakarta (DIY) sekaligus Raja Keraton Yogyakarta, Sri Sultan Hamengku Buwono X, menjadi sasaran penyalahgunaan teknologi kecerdasan buatan (AI) yang menghasilkan konten visual dan suara palsu. Sebuah video yang diduga hasil rekayasa AI, atau dikenal sebagai deepfake, diungkap melalui akun media sosial resmi Pemerintah Daerah DIY pada Rabu (22/7) siang. Konten tersebut dilaporkan beredar luas melalui aplikasi pesan WhatsApp.
Ditya Nanaryo Aji, Pranata Humas Ahli Madya Dinas Komunikasi dan Informatika (Diskominfo) DIY, menjelaskan bahwa penelusuran dilakukan setelah menerima informasi mengenai video tersebut dari GKR Condrokirono, salah satu putri Sultan HB X. Tim humas diminta untuk memverifikasi apakah video itu pernah diproduksi oleh Pemda DIY dan sekaligus menelaah dugaan penggunaan teknologi AI di dalamnya.
"Hasil pengecekan kami menunjukkan bahwa video tersebut bukan berasal dari dokumentasi Humas Pemerintah Daerah DIY," ujar Ditya pada Rabu (22/7). Ia menambahkan, baik dari segi isi maupun cara penyampaiannya, tim memastikan bahwa video tersebut merupakan hasil rekayasa menggunakan AI.
Modus Penipuan Memanfaatkan AI
Ditya melanjutkan, narasi dalam video tersebut menyentuh ranah pribadi seseorang, sebuah topik yang tidak pernah disampaikan oleh Sultan dalam komunikasi resmi maupun wawancara. Bagi Diskominfo, hal ini menjadi indikator kuat bahwa konten tersebut tidak memuat pernyataan asli dari Sultan. "Selama kami mendampingi kegiatan kehumasan, Ngarsa Dalem (sebutan kehormatan untuk Sultan Yogyakarta) tidak pernah menyampaikan pernyataan yang masuk ke ranah pribadi seseorang seperti yang tergambar dalam video tersebut. Karena itu kami dapat memastikan bahwa konten tersebut bukan pernyataan beliau," tegas Ditya.
Ditya merinci bahwa video tersebut beredar melalui aplikasi WhatsApp, bukan melalui akun media sosial resmi Pemda DIY atau kanal lainnya. Narasi yang dibangun di dalamnya mengarah pada dugaan modus penipuan yang memanfaatkan kemiripan wajah dan suara hasil rekayasa AI. "Isi videonya seolah-olah mengarahkan seseorang agar melakukan pembayaran suatu barang sebelum barang tersebut dikirim. Bahkan di dalam video itu juga disebut nama seseorang. Hal seperti ini tentu tidak mungkin disampaikan oleh Ngarsa Dalem," jelasnya.
Peningkatan Literasi Digital Jadi Fokus Utama
Hingga saat ini, Pemda DIY belum membahas langkah hukum terkait temuan tersebut. Fokus utama yang dilakukan adalah meningkatkan literasi digital masyarakat agar semakin mampu mengenali dan mengantisipasi penyalahgunaan teknologi AI yang berpotensi dimanfaatkan untuk penipuan atau penyebaran informasi palsu. "Kami ingin masyarakat semakin memahami bahwa teknologi AI dapat disalahgunakan untuk membuat konten yang tampak meyakinkan. Karena itu, setiap menerima video atau informasi yang mengatasnamakan Pemda DIY maupun Bapak Gubernur, pastikan terlebih dahulu sumbernya sebelum mempercayai atau menyebarkannya," pungkas Ditya.
