Seiring terus berkembangnya kecerdasan buatan (AI) dan semakin mudah diakses, penegak hukum dan lembaga kejahatan lainnya, termasuk di Alberta, memperingatkan tentang maraknya penggunaan deepfake yang melibatkan gambar dan video seksual eksplisit anak-anak.

Deepfake adalah video, gambar atau rekaman audio yang terlihat dan terdengar realistis tetapi telah dibuat atau diubah menggunakan teknologi AI.

Cybertip.ca, saluran informasi Kanada untuk melaporkan eksploitasi dan pelecehan seksual daring terhadap anak-anak, telah memproses hampir 4.000 gambar dan video deepfake yang mengandung unsur seksual terhadap anak-anak dan remaja tahun lalu di seluruh negeri.

Unit Eksploitasi Anak Terpadu (ICE) Alberta, di bawah Tim Respons Penegakan Hukum Alberta (ALERT), mengatakan masalah ini tersebar luas dan berkembang di seluruh provinsi.

“Ini hanyalah puncak gunung es dari apa yang mulai kita lihat,” kata Cst. Heather Bangle dari Unit ICE.

“Saya rasa kita bahkan belum mulai melihat seberapa besar kerusakan yang akan ditimbulkannya, tetapi ini sangat signifikan jika menyangkut keselamatan anak dan eksploitasi anak di internet karena kemampuannya, kemudahan aksesnya, dan betapa mudahnya menciptakan hal-hal ini.”

Bangle mengatakan dia telah menyelidiki kasus-kasus yang melibatkan teman sekelas yang menggunakan teknologi untuk membuat gambar-gambar pornografi terhadap siswa lain, tetapi mengatakan bahwa kekhawatiran utamanya adalah semakin banyaknya laporan tentang penipu yang menggunakan gambar-gambar yang dihasilkan AI untuk “sextort” anak muda secara daring, untuk mendapatkan uang atau gambar-gambar seksual lainnya.

“Ini benar-benar seperti pandemi pemerasan seksual,” katanya. “Ini pasti akan membuat pekerjaan kami lebih sulit karena kami bisa melipatgandakan ukuran unit kami dan tetap sibuk.”

Deepfake tergolong dalam undang-undang pornografi anak termasuk produksi dan distribusi materi pelecehan seksual anak, tetapi Bangle mengatakan menyelidiki insiden ini merupakan tantangan karena sebagian besar pelakunya tidak berada di Kanada, banyak di antaranya berasal dari Afrika Barat.

“Saya tahu beberapa kasus di mana anak bersumpah bahwa mereka tidak mengirim gambar intim,” katanya. “Ini adalah seluruh dunia anak itu. Bahkan jika bukan mereka di foto, hanya ide, penghinaan, dan upaya menjelaskan, 'itu bukan saya.'”

Pusat Perlindungan Anak Kanada (C3P) mengatakan masalah ini merajalela di seluruh negeri dengan peningkatan laporan dari tahun ke tahun dan sekarang mengadvokasi peningkatan aturan seputar teknologi dan perusahaan AI.

“Kami mendorong agar perusahaan-perusahaan ini diatur,” kata Signy Arnason dari C3P. “Harus ada lebih banyak standar yang ditetapkan terkait seberapa besar potensi kerusakan yang ditimbulkan oleh beberapa teknologi ini.”

Dampaknya pada remaja sangat parah, dengan banyak gambar dan video ini disebarkan ke teman atau keluarga, tetapi dapat juga berakhir di web gelap dan situs pornografi dewasa.

“Ada dampak traumatis yang serius bagi remaja yang terkena dampak akibat tindakan ini, termasuk kecemasan dan depresi dan berbagai hal lainnya yang kita lihat, jadi kita butuh orang-orang untuk menanggapi hal ini dengan lebih serius,” kata Arnason.

Cara melindungi diri Anda dan anak-anak Anda

Ada beberapa cara orang tua, guru dan anak-anak dapat melindungi diri mereka dari sextortion yang melibatkan deepfake AI, dengan saran yang paling sering diulang: dapatkan informasi.

“Pertama-tama, bicarakan hal ini dengan anak-anak Anda. Pahami konsekuensi dari mengunggah dan berbagi foto secara daring,” kata Tara Robinson dari YouthLink Calgary Police Interpretative Centre.

“Ciptakan ruang di mana anak-anak Anda merasa aman membicarakan hal ini.”

Orang tua dianjurkan untuk berbagi perangkat dengan anak mereka, memiliki kata sandi yang kuat dan autentikasi dua langkah, serta memastikan pengaturan privasi mereka diatur pada setiap aplikasi di perangkat.

“Sebagian besar penjahat mendapatkan akses ke anak-anak Anda melalui teknologi itu, melalui pesan langsung, melalui permainan. Mereka memiliki akses ke anak-anak Anda,” kata Robinson.

Ia mengatakan orangtua juga harus berpikir dua kali sebelum berbagi gambar atau video anak-anak mereka secara daring.

“Jika Anda membagikan foto apa pun di ruang publik, Anda dapat memastikan bahwa ada seseorang yang menggunakan foto-foto itu untuk … tujuan yang tidak baik,” kata Robinson.

“Jika Anda membagikan foto anak Anda di bak mandi, bayangkan saja. Bayangkan saja jika Anda tidak mengaktifkan pengaturan privasi, bayangkan saja siapa yang memiliki akses ke foto-foto itu dan apa yang mereka lakukan dengan foto-foto itu. Orang tua terkadang tidak tahu tentang bahayanya atau bahkan apa yang dilakukan anak-anak mereka secara daring.”

Robinson mengatakan penting bagi keluarga untuk tetap waspada dan mendapatkan informasi seiring perkembangan teknologi.

“Apa yang kita ajarkan kepada generasi muda dan orang tua bisa saja berubah hari ini dan bisa saja berubah dalam tiga bulan, karena perubahannya sangat cepat.”


Tautan Pemuda menawarkan program kepada kaum muda dan orang tua tentang risiko daring dan media sosial serta cara melindungi diri dari predator daring.

Itu Pusat Perlindungan Anak Kanada juga menawarkan pelajaran keselamatan online gratis untuk Kelas Tiga sampai Delapan dan Sembilan sampai 12 dan telah sumber daya keselamatan tersedia untuk orang tua.

Sumber