Telah mengikuti situasi Telegram ini di Korea Selatan dan jujur saja cukup mengkhawatirkan. Platform ini menghadapi tekanan besar dari otoritas terkait penyebaran materi eksploitasi seksual deepfake yang beredar di salurannya, dan situasinya baru saja memburuk secara signifikan.

Jadi begini: Komisi Standar Komunikasi Korea akhirnya berhasil membuat Telegram menghapus 25 video yang menampilkan materi pelecehan seksual, sebagian besar dibuat menggunakan teknologi deepfake yang menargetkan anak di bawah umur dan wanita. Ini terjadi setelah perusahaan tersebut selama bertahun-tahun mengabaikan permintaan dari pemerintah. Menurut laporan, satu grup Telegram saja memiliki sekitar 220.000 anggota yang aktif berbagi materi ini, dengan fokus besar pada anak di bawah umur. Kita berbicara tentang setidaknya 500 sekolah di seluruh Korea yang terdampak oleh kejahatan ini.

Skala ini jujur saja mengganggu. Data kepolisian menunjukkan kasus deepfake hampir dua kali lipat dari 156 pada 2021 menjadi 297 pada pertengahan 2023. Dan yang lebih mengejutkan: enam dari sepuluh korban yang diselidiki oleh polisi selama tiga tahun terakhir adalah anak-anak. Badan Kepolisian Nasional Korea meluncurkan penyelidikan awal setelah menemukan pelaku menggunakan Telegram untuk membuat dan menyebarkan video ini. Hingga akhir Agustus, mereka telah menerima 88 laporan dan mengidentifikasi 24 tersangka.

Yang membuat situasi semakin buruk bagi Telegram adalah penangkapan CEO-nya, Pavel Durov, di Prancis pada 24 Agustus. Otoritas Prancis menuduhnya melakukan keterlibatan dalam penyebaran materi pelecehan seksual anak dan gagal bekerja sama dengan polisi. Meskipun dia membayar jaminan sebesar €5 juta, penangkapan ini menempatkan Telegram di pusat perdebatan moderasi konten global. Perusahaan mencoba membela diri, mengatakan "sangat absurd mengklaim bahwa platform atau pemiliknya bertanggung jawab atas penyalahgunaan platform tersebut," tetapi itu tidak banyak diterima oleh para kritikus, terutama di Korea.

Ini bahkan bukan kali pertama Telegram menghadapi masalah ini. Pada tahun 2020, seorang berusia 20 tahun bernama Cho