Creativestation.id – Perusahaan teknologi raksasa Meta kembali menjadi sorotan setelah mengambil langkah tegas dengan menggugat Joy Timeline HK Limited, perusahaan asal Hong Kong yang mengembangkan aplikasi kontroversial bernama CrushAI.
Gugatan ini diajukan di Hong Kong, lokasi kantor pusat perusahaan tersebut, atas dugaan pelanggaran berat terkait penggunaan teknologi kecerdasan buatan (AI) untuk membuat gambar seksual palsu dari individu tanpa persetujuan mereka.
Melalui pernyataan resminya pada Kamis, 12 Juni 2025, Meta menyatakan bahwa aplikasi tersebut melanggar kebijakan internal dan nilai dasar perusahaan terkait keselamatan pengguna. “Kami telah mengajukan gugatan terhadap Joy Timeline HK Ltd untuk menghentikan iklan CrushAI di platform kami,” tegas perwakilan Meta.
CrushAI menggunakan teknologi generatif AI untuk menciptakan gambar intim palsu dari foto orang sungguhan. Meta menyebut praktik ini sebagai bagian dari fenomena nudify, yaitu manipulasi visual yang bertujuan menampilkan seseorang seolah tanpa busana. Praktik ini tidak hanya meresahkan, tetapi juga melanggar hukum di banyak negara.
Meta Tuntut CrushAI Setelah Ribuan Iklan Menyusup ke Facebook dan Instagram
Selama awal 2025, tercatat lebih dari 8.000 iklan CrushAI berhasil lolos dan tampil di Facebook dan Instagram, menurut laporan dari Meta. Aplikasi ini bahkan sempat memiliki halaman resmi di Facebook dan terus menyebarkan kontennya lewat puluhan akun pengiklan berbeda. Nama-nama akun seperti Eraser Anyones Clothes dan variasinya digunakan untuk menghindari deteksi sistem.
Baca juga: Fitur Baru Instagram 2025: Feed Bisa Diatur Ulang Hingga Musik Real-Time!
“CrushAI menggunakan berbagai trik untuk menyusupkan iklan mereka, termasuk mengganti nama akun dan domain situs secara berkala,” ungkap Meta dalam laporan kasusnya. Alexios Mantzarlis, jurnalis dari buletin teknologi Faked Up, juga menambahkan, “Sekitar 90 persen trafik website CrushAI berasal dari Facebook dan Instagram. Saya sendiri sudah melaporkan beberapa situsnya ke Meta.”
Sebagai tanggapan, Meta telah menghapus akun-akun tersebut, memblokir akses tautan, dan membatasi pencarian kata kunci sensitif seperti ‘nudify’ atau ‘delete clothing’ di platform mereka. Selain itu, mereka mengembangkan sistem pendeteksi iklan berbahaya yang tidak bergantung pada visual eksplisit, melainkan pada simbol, emoji, dan teks yang mencurigakan.
Meta juga aktif dalam Lantern Tech Coalition, kolaborasi dengan perusahaan besar seperti Google dan Snap untuk saling berbagi data pelanggaran. Sejak Maret 2025, lebih dari 3.800 URL mencurigakan telah dibagikan demi mencegah penyebaran konten eksploitasi seksual, terutama terhadap anak.
Meta Tuntut Demi Cegah Penyalahgunaan Teknologi AI
Langkah Meta menggugat CrushAI tak hanya soal iklan, tetapi juga menyangkut prinsip dasar dalam penggunaan teknologi. Bagi perusahaan yang juga menaungi WhatsApp dan Threads ini, teknologi AI seharusnya dimanfaatkan secara etis, bukan untuk manipulasi dan penyebaran konten intim tanpa izin.
“Membantu perusahaan lain mengambil langkah yang sama dan meminta pertanggungjawaban dari orang-orang di balik aplikasi ini adalah prioritas kami,” tulis Meta dalam pernyataannya.
Baca juga: Pengembangan Ekosistem AI Indonesia Inggris, Siasat Hadapi Peluang Teknologi Masa Depan
Tak hanya Meta, beberapa platform lain seperti TikTok dan YouTube juga terkena imbas dari maraknya aplikasi AI nudify. Meskipun upaya pemblokiran sudah dilakukan, pencipta aplikasi seperti CrushAI terus berinovasi dalam menghindari sistem pengamanan yang ada.
Meta menyambut baik setiap regulasi baru yang melindungi pengguna, termasuk dukungan terhadap Take It Down Act di Amerika Serikat, yang memberi kontrol lebih besar kepada orang tua terhadap aktivitas online remaja. Upaya ini selaras dengan proyek jangka panjang Meta, termasuk pengembangan Metaverse yang menjanjikan ruang digital lebih aman dan terkendali.
Langkah Meta tuntut CrushAI menjadi sinyal keras terhadap pelaku penyalahgunaan teknologi AI. Di tengah kemajuan yang semakin pesat, komitmen terhadap keamanan dan etika digital menjadi kunci penting dalam menjaga dunia maya tetap sehat dan bertanggung jawab.
Untuk berita bisnis dan ulasan teknologi terbaru, ikuti terus creativestation.id – sumber referensi kreatif untuk inovasi, bisnis, dan teknologi.
Leave a Comment