Para aktivis meneriakkan slogan-slogan dan mengangkat topeng selama protes terhadap pornografi deepfake di Seoul, 30 Agustus 2024. /CFP
Para aktivis meneriakkan slogan-slogan dan mengangkat topeng selama protes terhadap pornografi deepfake di Seoul, 30 Agustus 2024. /CFP
Sebuah komite parlemen di Korea Selatan telah menyetujui sebuah RUU yang menjatuhkan hukuman penjara bagi mereka yang memiliki atau menonton konten seksual deepfake, menurut kantor berita Yonhap. RUU tersebut merupakan respons terhadap meningkatnya kekhawatiran publik atas kejahatan seks digital, khususnya setelah ditemukannya ruang obrolan Telegram yang membagikan pornografi deepfake buatan AI yang menampilkan mahasiswi dan staf perempuan.
Undang-undang yang direvisi tersebut memberikan hukuman berat bagi individu yang memiliki, membeli, menyimpan, atau melihat konten seksual deepfake, dengan kemungkinan hukuman penjara hingga tiga tahun atau denda hingga 30 juta won (sekitar $22.500). Anggota parlemen dari partai yang berkuasa dan oposisi memasukkan ketentuan untuk membebaskan individu yang “tanpa sadar” bersentuhan dengan materi tersebut dari hukuman.
Panitia juga mengajukan revisi terhadap undang-undang yang melindungi anak-anak dari kejahatan seksual, dengan memperkenalkan hukuman yang lebih berat bagi mereka yang menggunakan materi eksploitatif untuk memeras atau memaksa anak di bawah umur. Berdasarkan ketentuan baru, hukuman untuk pemerasan akan meningkat menjadi minimal tiga tahun, sementara pemaksaan dapat mengakibatkan hukuman lima tahun atau lebih.
Revisi tersebut juga membahas undang-undang pencegahan kekerasan seksual, yang menguraikan tanggung jawab pemerintah untuk menghapus konten yang direkam secara ilegal dan membantu korban dalam berintegrasi kembali ke masyarakat.
Meningkatnya upaya untuk memerangi deepfake seksual bertepatan dengan kasus Pavel Durov. Pendiri Telegram, Durov, saat ini sedang menjalani penyelidikan resmi di Prancis karena pihak berwenang menyelidiki aktivitas kejahatan terorganisasi yang terkait dengan platform pengiriman pesan tersebut.
Seorang jurnalis melihat contoh video deepfake yang dimanipulasi menggunakan kecerdasan buatan oleh para peneliti Universitas Carnegie Mellon di mejanya di Washington, DC, AS, 25 Januari 2019. /CFP
Seorang jurnalis melihat contoh video deepfake yang dimanipulasi menggunakan kecerdasan buatan oleh para peneliti Universitas Carnegie Mellon di mejanya di Washington, DC, AS, 25 Januari 2019. /CFP
Teknologi deepfake merujuk pada jenis kecerdasan buatan yang digunakan untuk membuat gambar, video, dan rekaman audio palsu yang meyakinkan. Teknologi ini dapat memanipulasi konten yang ada, menukar satu orang dengan orang lain, atau menghasilkan skenario yang sama sekali baru di mana individu tampak mengatakan atau melakukan hal-hal yang sebenarnya tidak pernah mereka lakukan. Bahaya terbesar dari deepfake terletak pada kemampuannya untuk menyebarkan informasi palsu yang tampaknya berasal dari sumber yang tepercaya.
“Saya selalu berhati-hati dalam hal informasi atau foto pribadi,” kata Ines Kwon, seorang mahasiswa. “Namun dengan begitu banyaknya kejahatan akhir-akhir ini yang melibatkan AI dan teknologi deepfake, saya jadi lebih berhati-hati.”
Minggu lalu, Badan Kepolisian Nasional Korea Selatan mengumumkan rencana untuk menginvestasikan 2,7 miliar won ($2 juta) per tahun selama tiga tahun ke depan untuk mengembangkan teknologi pembelajaran mendalam guna mendeteksi konten yang direkayasa secara digital, termasuk deepfake dan kloning suara. Badan tersebut juga akan meningkatkan perangkat lunaknya saat ini untuk memantau video yang dihasilkan AI.
Urgensi tindakan ini ditegaskan oleh statistik yang mengkhawatirkan: kasus kekerasan seksual siber telah melonjak 11 kali lipat tahun ini dibandingkan dengan 2018, namun hanya 16 penangkapan yang dilakukan dari 793 kejahatan deepfake yang dilaporkan sejak 2021, menurut data kepolisian.
“Enam tahun telah berlalu sejak saya menjadi korban pornografi deepfake yang dibuat oleh AI. Saat saya beralih dari seorang mahasiswa menjadi seorang profesional, adalah sebuah kebohongan jika saya mengatakan bahwa insiden itu tidak meninggalkan bekas pada diri saya,” kata seorang korban kejahatan deepfake yang tidak disebutkan namanya.
“Namun, ketika saya memikirkan wanita lain yang mungkin mengalami hal yang sama atau bahkan lebih parah, ada api yang menyala dalam diri saya untuk menjadi lebih kuat dan melawannya.”
Presiden Yoon Suk-yeol mengatakan bahwa deepfake merupakan kejahatan serius yang merusak keharmonisan sosial dan mendesak kementerian terkait untuk mengambil tindakan tegas. Dalam pernyataan bersama pada akhir Agustus, 84 organisasi perempuan menekankan bahwa akar penyebab krisis deepfake adalah “diskriminasi gender struktural,” yang mengadvokasi kesetaraan gender sebagai solusi mendasar.
Oh Kyung-Jin, sekretaris jenderal Persatuan Wanita Korea, mengatakan masalah mendasarnya adalah “budaya misogini,” yang mana wanita hanya dilihat sebagai objek seks, sasaran kejahatan, dan bentuk hiburan, bukan sebagai warga negara yang setara, terutama di kalangan remaja.
