diyetekno.com – Foto anak-anak kita yang polos di media sosial kini menghadapi bahaya baru yang mengerikan sebuah ancaman nyata bukan sekadar teori Kecerdasan Buatan atau AI mampu mengubah gambar biasa buah hati Anda menjadi konten pelecehan seksual tanpa sepengetahuan orang tua maupun sang anak sendiri
Sebuah investigasi mengejutkan dari Tech Transparency Project TTP mengungkap ratusan iklan berisi materi pelecehan seksual anak berbasis AI CSAM beredar bebas di platform Facebook dan Instagram Para peneliti menemukan 332 iklan semacam ini sebagian besar menampilkan anak-anak yang fotonya dimanipulasi AI agar terlihat melakukan tindakan seksual Empat anak sungguhan teridentifikasi menjadi korban termasuk dua influencer remaja seorang anak pra-remaja dari situs foto stok serta anggota keluarga kerajaan Eropa yang masih belia
Temuan ini menjadi peringatan keras bagaimana AI generatif mengubah lanskap risiko berbagi foto anak secara daring Kini tidak perlu foto eksplisit untuk menciptakan gambar palsu yang meyakinkan sebuah foto biasa sudah cukup menjadi bahan baku utama Alat AI generatif mampu mengambil foto yang sudah ada lalu memodifikasi bagian-bagiannya sambil tetap mempertahankan fitur wajah asli seseorang Ini yang terjadi pada anak-anak korban iklan Meta kata para peneliti Foto asli mereka tidak perlu mengandung materi seksual untuk disalahgunakan Emma Hardy direktur komunikasi Internet Watch Foundation menegaskan aplikasi AI memudahkan pembuatan gambar kejahatan pelecehan anak yang realistis menciptakan risiko baru foto sehari-hari anak diubah menjadi konten seksual Begitu sebuah gambar biasa dapat diakses publik siapa pun bisa mengunduhnya dan memasukkannya ke alat AI untuk diubah
Skala investigasi terbaru juga menunjukkan betapa sulitnya menghentikan konten berbahaya ini Awalnya pada Agustus peneliti TTP menemukan 53 iklan CSAM di platform Meta Meta kemudian mengklaim banyak iklan tersebut muncul sebelum teknologi AI baru mereka diterapkan untuk deteksi Namun para peneliti terus menemukan lebih banyak TTP akhirnya mengidentifikasi 332 iklan CSAM buatan AI ratusan di antaranya muncul setelah Meta mengumumkan peningkatan teknologi deteksinya Ini sangat penting karena iklan-iklan ini bukan sekadar postingan biasa yang luput dari moderasi melainkan iklan berbayar Meta menyatakan iklan ditinjau sebelum tayang dan sistem otomatis berperan besar dalam proses ini Juru bicara Meta Tracy Clayton menjelaskan kepada WIRED bahwa perusahaan tidak menoleransi aplikasi nudifikasi atau eksploitasi anak baik gambar asli maupun buatan AI Meta menyebut pelaku kejahatan sengaja berusaha menghindari sistem deteksi mereka dan beberapa video lebih sulit dideteksi karena gambar anak hanya muncul sebentar atau buram Perusahaan mengatakan banyak iklan yang diidentifikasi peneliti telah dihapus sebagian besar menerima kurang dari 200 tayangan dan pendapatan kurang dari 5000 dolar Namun peneliti mendokumentasikan kasus di mana paparan iklan justru meningkat setelah dilaporkan Sebuah iklan yang melibatkan remaja sungguhan awalnya menjangkau empat akun Eropa saat dilaporkan ke Meta Beberapa hari kemudian saat Meta menghapusnya iklan tersebut sudah menjangkau lebih dari 330 akun
Investigasi ini membuktikan alat-alat jahat tersebut sudah menjadi arus utama Para peneliti menemukan iklan yang mengarahkan pengguna ke hampir 50 aplikasi tersedia di Apple App Store dan Google Play Store Sekitar 300 dari 350 iklan yang diteliti mempromosikan generator gambar atau video AI menurut WIRED Apple menjelaskan kepada WIRED beberapa pengembang awalnya mengirimkan versi aplikasi yang patuh sebelum menambahkan fitur nudifikasi terlarang Apple menghapus 17 dari 20 aplikasi yang diidentifikasi peneliti dan menindak tiga sisanya serta tujuh aplikasi tambahan yang ditemukan WIRED Google juga menghapus semua aplikasi dalam laporan dan menangguhkan ratusan aplikasi lain karena melanggar kebijakan Temuan ini menunjukkan masalah yang melampaui satu platform tunggal karena AI dapat digunakan untuk membuat gambar toko aplikasi mendistribusikan alat pembuatnya dan platform iklan menyebarkan promosinya Setiap lapisan mungkin memiliki sistem keamanannya sendiri namun materi pelecehan hanya perlu lolos sekali untuk mencapai pengguna
Lalu apa yang harus dilakukan jika Anda menemukan gambar AI anak Anda yang dimanipulasi Jika Anda menemukan gambar AI yang melecehkan anak Anda jangan memposting ulang atau menyebarkannya secara luas untuk memperingatkan orang lain Sebaliknya simpan informasi yang dapat membantu mengidentifikasi di mana materi itu muncul seperti nama akun alamat halaman dan detail lainnya lalu laporkan langsung ke platform Di Amerika Serikat dugaan eksploitasi seksual anak juga dapat dilaporkan ke CyberTipline National Center for Missing & Exploited Children NCMEC Orang tua juga dapat menggunakan layanan Take It Down dari NCMEC yang dirancang untuk membantu menghentikan penyebaran gambar atau video telanjang sebagian telanjang atau eksplisit secara seksual yang melibatkan seseorang di bawah 18 tahun Sistem ini membuat sidik jari digital atau hash dari gambar tanpa perlu mengunggah gambar itu sendiri Karena citra yang dihasilkan AI menciptakan skenario yang lebih baru dan rumit orang tua yang tidak yakin apakah gambar yang dimanipulasi memenuhi syarat harus tetap melaporkan apa yang mereka temukan daripada mencoba menentukannya sendiri
Intinya para orang tua telah diperingatkan tentang sharenting dan jejak digital anak selama bertahun-tahun Sharenting adalah praktik orang tua berbagi gambar video dan detail pribadi tentang anak-anak mereka di media sosial Meskipun orang tua tidak dapat sepenuhnya menghilangkan risiko penyalahgunaan AI pada gambar atau video yang mereka posting mengurangi jumlah foto anak-anak yang dapat diakses publik dan lebih selektif dalam berbagi dapat mengurangi jumlah materi yang tersedia bagi orang-orang yang mungkin menyalahgunakannya
