Meta telah menggugat pembuat aplikasi AI populer "nudify", Crush AI, yang dilaporkan menayangkan ribuan iklan di seluruh platform Meta. Selain gugatan tersebut, Meta mengatakan pihaknya mengambil langkah-langkah baru untuk menindak aplikasi lain seperti Crush AI.
Dalam gugatan yang diajukan di Hong Kong, Meta menuduh Joy Timeline HK, entitas di balik Crush AI, berupaya menghindari proses peninjauan perusahaan untuk mendistribusikan iklan layanan AI nudify. Meta mengatakan dalam sebuah posting blog bahwa pihaknya berulang kali menghapus iklan oleh entitas tersebut karena melanggar kebijakannya, tetapi mengklaim Joy Timeline HK tetap memasang iklan tambahan.
Crush AI, yang menggunakan AI generatif untuk membuat gambar palsu yang eksplisit secara seksual dari orang sungguhan tanpa persetujuan mereka, dilaporkan menayangkan lebih dari 8.000 iklan untuk layanan "AI undresser" di platform Meta dalam dua minggu pertama tahun 2025, menurut penulis buletin Faked Up, Alexios Mantzarlis. Dalam laporan bulan Januari, Mantzarlis mengklaim bahwa situs web Crush AI menerima sekitar 90% lalu lintasnya dari Facebook atau Instagram, dan bahwa ia menandai beberapa situs web ini ke Meta.
Crush AI dilaporkan menghindari proses peninjauan iklan Meta dengan menyiapkan lusinan akun pengiklan dan sering mengubah nama domain. Banyak akun pengiklan Crush AI, menurut Mantzarlis, diberi nama "Eraser Annyone's Clothes" diikuti dengan nomor yang berbeda. Pada satu titik, Crush AI bahkan memiliki halaman Facebook yang mempromosikan layanannya.
Facebook dan Instagram bukanlah satu-satunya platform yang menghadapi tantangan seperti itu. Ketika perusahaan media sosial seperti X dan Meta berlomba untuk menambahkan AI generatif ke aplikasi mereka, mereka juga berjuang untuk memoderasi bagaimana alat AI dapat membuat platform mereka tidak aman bagi pengguna, khususnya anak di bawah umur.
Para peneliti telah menemukan bahwa tautan ke aplikasi AI untuk membuka pakaian mulai dikenal pada tahun 2024 di platform seperti X dan Reddit, dan di YouTube, jutaan orang dilaporkan disuguhi iklan untuk aplikasi tersebut. Menanggapi masalah yang berkembang ini, Meta dan TikTok telah melarang pencarian kata kunci untuk aplikasi AI nudify, tetapi menghapus layanan ini sepenuhnya dari platform mereka terbukti menantang.
Dalam sebuah posting blog, Meta mengatakan telah mengembangkan teknologi baru untuk secara khusus mengidentifikasi iklan untuk layanan AI nudify atau membuka pakaian "bahkan ketika iklan itu sendiri tidak menyertakan ketelanjangan." Perusahaan tersebut mengatakan sekarang menggunakan teknologi pencocokan untuk membantu menemukan dan menghapus iklan peniru dengan lebih cepat, dan telah memperluas daftar istilah, frasa, dan emoji yang ditandai oleh sistemnya.
Meta mengatakan bahwa mereka juga menerapkan taktik yang selama ini mereka gunakan untuk mengganggu jaringan pelaku kejahatan terhadap jaringan akun baru yang menjalankan iklan untuk layanan AI nudify. Sejak awal tahun 2025, Meta mengatakan, mereka telah mengganggu empat jaringan terpisah yang mempromosikan layanan ini.
Di luar aplikasinya, perusahaan tersebut mengatakan akan mulai berbagi informasi tentang aplikasi AI nudify melalui program Lantern milik Tech Coalition, sebuah upaya kolektif antara Google, Meta, Snap, dan perusahaan lain untuk mencegah eksploitasi seksual anak secara daring. Meta mengatakan telah menyediakan lebih dari 3.800 URL unik dengan jaringan ini sejak Maret.
Di bidang legislatif, Meta mengatakan akan "terus mendukung undang-undang yang memberdayakan orang tua untuk mengawasi dan menyetujui unduhan aplikasi anak remaja mereka." Perusahaan tersebut sebelumnya mendukung Undang-Undang Penghapusan Aplikasi AS, dan mengatakan sekarang sedang bekerja sama dengan anggota parlemen untuk menerapkannya.
