Fenomena 'Ustazah' AI di TikTok Memicu Perdebatan

Sebuah akun TikTok dengan nama pengguna @nia.hajar_s menjadi pusat perhatian setelah warganet mengungkapkan bahwa sosok 'ustazah' (guru agama perempuan) yang tampil di dalamnya sepenuhnya merupakan hasil rekayasa kecerdasan buatan (AI). Akun tersebut, per Kamis (25/6) sore, telah mengumpulkan lebih dari 920 ribu pengikut dan 10,4 juta suka di platform TikTok. Video-video yang dibagikan menampilkan seorang perempuan berhijab yang berbicara di depan mikrofon, menyerupai seorang penceramah agama.

Kemunculan 'Ustazah Hajar' ini menimbulkan kekhawatiran di kalangan warganet. Salah satu akun di platform X, @MiskinTV_, menyuarakan keprihatinannya mengenai popularitas sosok AI ini. Visual yang sangat realistis membuat banyak 'jemaah digital' terkecoh, mengira mereka sedang mendengarkan manusia sungguhan. Selain itu, kekhawatiran juga muncul terkait masalah akuntabilitas. Jika terdapat kekeliruan tafsir dalam ceramah yang disampaikan, tidak ada individu nyata yang dapat dimintai pertanggungjawaban.

Ciri Konten AI dan Peningkatan Adopsi

Firman Kurniawan, seorang pengamat budaya dan komunikasi digital, mengonfirmasi bahwa sosok 'Ustazah Hajar' adalah buatan AI. Menurut Firman, beberapa ciri dalam video tersebut menunjukkan bahwa sosok itu adalah hasil rekayasa, salah satunya adalah intonasi suara yang sangat teratur. "Suaranya itu intonasinya sangat teratur, rapi. Kalau orang ngomong itu kan kadang ada jeda, ada mikir. Ini runtut dan tempo-nya itu sangat teratur. Nah ini terlihat kalau itu fabrikasi, itu buatan artificial intelligence," jelas Firman pada Kamis (25/6).

Firman menambahkan bahwa konten yang dihasilkan oleh AI semakin masif dalam beberapa waktu terakhir, didorong oleh tiga faktor utama:

  • Teknologi yang Lebih Murah: Banyak platform AI kini menawarkan fasilitas gratis untuk penggunaan aplikasi mereka.
  • Kemudahan Penggunaan: Tanpa perlu pembelajaran khusus, individu dapat menghasilkan konten AI yang komunikatif hanya dengan menonton tutorial, bertanya kepada ahli, atau mencoba sendiri.
  • Hasil yang Memuaskan: Kualitas konten buatan AI telah mencapai tingkat yang sangat realistis, sehingga sulit dibedakan dari konten asli.

"Nah itu tiga-tiganya itu memancing orang untuk menggunakan secara masif di berbagai macam kegiatan," kata Firman.

Risiko Akuntabilitas dan Identitas Pengelola

Alfons Tanujaya, seorang pengamat digital lainnya, sependapat dengan Firman. Ia menyatakan bahwa tren ini berkembang karena kemampuan AI dalam menghasilkan gambar, video, dan suara yang semakin menyerupai aslinya dan sulit dibedakan. Alfons juga mencatat bahwa fenomena ini telah merambah industri permodelan, di mana model AI atau kreator konten AI seringkali memiliki jumlah pengikut yang lebih tinggi dibandingkan kreator manusia.

Menurut Alfons, sebagian besar pengguna yang belum memahami perkembangan teknologi ini akan mudah mempercayai konten AI sebagai buatan manusia. Ia berpendapat bahwa dampak konten, baik positif maupun negatif, bergantung pada niat dan isi pesan, bukan semata-mata pada apakah pembuatnya AI atau manusia. Namun, Alfons menekankan bahwa risiko terbesar muncul ketika identitas pengelola konten tidak diketahui secara jelas. Jika tidak diawasi dengan baik dan penyedia konten tidak teridentifikasi, akan sulit bagi pihak berwenang untuk melacak atau meminta pertanggungjawaban. "Atau misalnya pengelola konten pria menggunakan avatar wanita hal ini seharusnya bisa dibatasi dan dipertanggungjawabkan secara etis," ujarnya.