FYPMedia.id – Kasus pornografi deepfake menjadi perhatian global, termasuk di negara maju seperti Singapura. Teknologi kecerdasan buatan (AI) kini semakin canggih, hingga dapat dimanfaatkan untuk tujuan yang merusak, seperti membuat konten seksual palsu dari gambar individu yang tidak bersalah. 

Berikut adalah fakta, dampak, dan langkah-langkah yang diambil untuk menangani ancaman ini.

Apa Itu Pornografi Deepfake?

Pornografi deepfake adalah hasil manipulasi gambar atau video seseorang untuk menciptakan konten seksual yang tidak pernah terjadi. 

Menurut Sophie Maddocks, kandidat doktor di Annenberg School for Communication, teknologi ini melibatkan algoritma pembelajaran mendalam yang dapat secara otomatis “menelanjangi” gambar seseorang, biasanya wanita, untuk menghasilkan konten eksplisit tanpa persetujuan.

Konten deepfake pertama kali mencuat pada 2017 di Reddit, di mana klip video rekayasa selebritas tersebar luas. Berbeda dari proses manipulasi visual rumit di masa lalu, kini teknologi ini dapat diakses secara mudah dengan perangkat lunak gratis. 

Meski ada alat yang membutuhkan perangkat canggih, kualitas manipulasi yang lebih sederhana masih dapat dideteksi, seperti proporsi tubuh yang aneh, pencahayaan tidak konsisten, atau pergerakan bibir yang tidak sinkron.

Baca juga: Keju dan Solusi Mendengkur: Temuan Peneliti dari 400.000 Responden

Kasus Pornografi Deepfake di Singapura

Singapura menghadapi kasus serius terkait deepfake pornografi, di mana siswa sekolah olahraga membuat dan menyebarkan gambar palsu teman perempuan mereka menggunakan AI (Artificial Intelligence). 

Perangkat seperti ponsel yang digunakan untuk membuat konten ini telah disita polisi untuk penyelidikan forensik. 

Tindakan disiplin, termasuk hukuman fisik, skorsing, hingga larangan perjalanan olahraga, telah diterapkan kepada pelaku.

Menurut survei SG Her Empowerment pada 2023, 66% responden di Singapura mengaku lebih berhati-hati dalam membagikan foto pribadi di media sosial. 

Namun, bahaya tetap mengintai karena normalisasi konten seksual palsu justru dapat memperburuk kesehatan mental korban dan menghambat kesetaraan gender.

Dampak Global dan Langkah Penanganan

Tidak hanya di Singapura, kasus serupa juga terjadi di seluruh dunia. Misalnya, di Spanyol, lebih dari 20 gadis muda menjadi korban penyebaran deepfake pornografi oleh remaja laki-laki. 

Hal ini menunjukkan bahwa teknologi ini memberikan dampak yang meluas terhadap generasi muda, khususnya perempuan, yang menjadi korban hingga 95% dari total konten semacam ini.

Langkah penanganan dilakukan oleh berbagai negara:

• Singapura telah memperbarui undang-undang penyiaran untuk memblokir konten deepfake dan menerapkan kode etik daring.
• Inggris mengusulkan regulasi ketat untuk pengembang AI agar tidak menciptakan konten merusak.
• China mengharuskan tanda tangan digital pada konten yang dimanipulasi.

Namun, meskipun teknologi seperti tanda tangan digital dapat membantu identifikasi, hal ini tidak sepenuhnya menghentikan distribusi konten palsu.

Baca juga: 5 Fakta Penting tentang Larangan Media Sosial bagi Anak di Bawah 16 Tahun di Australia

Upaya Pencegahan dan Solusi

Selain regulasi, edukasi masyarakat tentang bahaya deepfake pornografi sangat penting. Menurut Stefanie Yuen Thio Associate Director dari TSMP Law Corporation, masyarakat harus lebih bijak dalam membagikan foto pribadi di media daring. 

Jika menjadi korban, korban dianjurkan segera melapor dan mengambil tindakan hukum untuk melindungi diri.

Sementara itu, pengembang teknologi juga harus bertanggung jawab. Filter dalam model AI untuk mencegah pembuatan konten berbahaya perlu dioptimalkan. 

Namun, tantangan terbesar tetap pada penegakan hukum terhadap pengembang yang menyalahgunakan teknologi ini.

Dengan lebih dari 66% masyarakat Singapura mulai berhati-hati membagikan foto di media sosial, kesadaran terhadap ancaman deepfake pornografi perlahan meningkat. 

Namun, regulasi, edukasi, dan teknologi pencegahan harus terus diperkuat untuk melindungi generasi muda dari bahaya yang semakin meluas ini.

Kehadiran teknologi AI adalah pedang bermata dua. Pemanfaatan yang salah dapat berdampak destruktif, tetapi dengan pengelolaan yang tepat, ancaman deepfake pornografi dapat diminimalkan.