Kecerdasan buatan atau artificial intelligence (AI) tengah menjadi perbincangan besar di seluruh dunia, termasuk Indonesia. Teknologi ini hadir dimana-mana, dari aplikasi kesehatan, platform pendidikan, hingga konten hiburan di media sosial yang kita konsumsi setiap hari. Namun dibalik segala kemudahan yang ditawarkannya, AI juga menyimpan sisi lain yang jauh lebih gelap.
Salah satunya yang paling mengkhawatirkan adalah teknologi deepfake, kemampuan AI untuk memanipulasi wajah, suara, dan video seseorang sedemikian rupa sehinggga tampak nyata, padahal sepenuhnya palsu. Menurut saya, inilah paradoks terbesar teknologi AI hari ini, alat yang diciptakan untuk memajukan peradaban, namun dengan mudah bisa dibalik menjadi senjata yang melukai orang-orang yang paling rentan.
Tidak adil kiranya bila kita membahas AI hanya dari sisi gelapnya saja. Dalam bidang kesehatan, teknologi AI kini biasanya digunakan untuk mendeteksi kanker stadium awal dengan akurasi yang jauh melampaui kemampuan manusia. Di bidang pendidikan, banyak platform pembelajaran berbasis AI yang telah membantu jutaan pelajar di daerah terpencil mengakses materi berkualitas secara gratis.
Bahkan dalam industri hiburan, teknologi deepfake sendiri sebelum disalahgunakan, awalnya dikembangkan untuk keperluan sinematografi, seperti menghidupkan kembali actor yang telah meninggal dunia dalam sebuah film. Saya rasa, jika digunakan dengan tepat dan bertanggung jawab, AI adalah salah satu inovasi terbesar yang pernah lahir dari akal dan tangan manusia.
Dibalik manfaatnya, juga menyimpan ancaman yang tidak bisa diabaikan.
Namun, masalahnya, teknologi yang sama itu kini semakin sering berpindah ke tangan yang salah. Data Sensity AI yang dikutip Wakil Menteri Komunikasi dan Digital, Nezar Patria, menunjukkan lonjakan konten deepfake sebesar 550 persen dalam lima tahun terakhir dan 90
persen di antaranya digunakan untuk tujuan berbahaya. Kementrian Komunikasi dan Digital (Komdigi) bahkan mencatat bahwa kerugian akibat penipuan berbasis AI di Indonesia telah menembus angka Rp700 miliar. Yang paling memprihatinkan, Sebagian besar korbannya adalah perempuan.
Wajah mereka dicatut tanpa izin, dimanipulasi secara digital, lalu dijadikan konten pornografi sintetis yang disebarluaskan di berbagai platform, sebuah kejahatan yang dalam dunia hukum dikenal sebagai sextortion. Menurut saya, ini bukan sekedar pelanggaran privasi biasa, melainkan sebuah bentuk kekerasan berbasis gender di ruang digital yang dampak psikologisnya jauh lebih dalam dan berkepanjangan dibandingkan sekedar kerugian finansial.
Ironisnya, Indonesia berada di urutan terdepan sebagai korban.
Indonesia, sepertinya berada di posisi yang rentan dalam menghadapi ancaman ini. Penelitian Transparency Internasional tahun 2020 menempatkan Indonesia di urutan pertama kasus sextortion di Asia, di mana 18 persen responden menyatakan pernah mengalami atau menyaksikan kejahatan tersebut. Kondisi ini diperparah oleh rendahnya literasi digital masyarakat.
Survei Sharing Vision pada Desember 2025 mencatat bahwa 38 persen dari 2.442 responden mengaku kesulitan membedakan konten buatan AI dengan konten asli. Sementara 39 persen menyatakan kekhawatiran terhadap penggunaan AI untuk kejahatan siber. Kalau hampir separuh pengguna media sosial aktif saja masih tidak bisa mengenali manipulasi visual, mungkin kita perlu berhenti menganggap literasi digital sebagai isu pinggiran.
Hukum di negara kita yang masih tertinggal jauh
Di sisi hukum, kondisinya tidak kalah memprihatinkan. Penelitian dari Universitas Pendidikan Ganesha yang terbit dalam Jurnal Hukum Indonesia Majelis (Februari 2026) menegaskan bahwa regulasi yang ada mulai dari UU ITE, UU Pornografi, hingga UU Perlindungan Data Pribadi belum secara eksplisit mengatur tindak pidana deepfake. Penegak hukum menghadapi tantangan besar dalam pembuktian, karena manipulasi digital yang canggih sulit dibedakan dari rekaman asli, dan keterampilan forensic digital yang memadai masih langka. Seharusnya,
kerangka hukum yang kuat sudah rampung jauh sebelum teknologinya berkembang liar seperti sekarang, bukan justru terlambat mengejar seperti ini.
Apa yang seharusnya dilakukan?.
Sebaiknya, respon terhadap tantangan ini tidak hanya datang dari satu pihak saja. Pertama, pemerintah perlu segera mengesahkan regulasi AI yang komprehensif dengan sanksi tegas, termasuk perlindungan khusus bagi korban perempuan dari deepfake berbasis konten seksual sebagaimana direkomendasikan dalam kajian hukum terkini.
Kedua, platform digital seharusnya diwajibkan menyediakan fitur pengecekan konten AI secara gratis bagi publik, seperti yang telah didesak oleh Komidigi kepada platform global. Ketiga, program literasi digital yang menyasar semua kalangan, sebaiknya hal ini dapat dirancang serius dan merata, bukan sekadar kampanye sesaat yang mudah terlupakan.
Kembali lagi, AI adalah cerminan diri manusia yang menciptakannya. Ia bisa menjadi dokter yang menyelamatkan nyawa, sekaligus predator yang menghancurkan kehidupan seseorang dalam sekejap. Menurut saya, yang membedakan keduanya bukan seberapa canggih teknologinya, melainkan seberapa serius kita sebagai masyarakat, pemerintah, dan pengguna dalam menjaga agar kemajuan ini tidak mengorbankan mereka yang paling lemah.
Jika kita terus membiarkan celah ini menganga tanpa regulasi dan tanpa edukasi yang nyata, mungkin suatu saat kita akan hidup di dunia di mana tidak ada lagi yang bisa dipercaya dari apa yang kita lihat, dan itu bukan kemajuan, tetapi kemunduran.
