Dalam video Raffi mengatakan, sering bermain di salah satu situs World-wide-web judi dan kerap meraup keuntungan.

Tempo beberapa kali menyoroti bahaya deepfake yang digunakan untuk menyebarkan hoaks hingga melakukan penipuan. Deepfake untuk tujuan jahat tersebut biasanya menggunakan tampilan tokoh terkenal.

Dulu saya kemana-mana itu susah tidak mempunyai uang saya membuka situs pertama kali itu benar-benar hanya untuk berbagi, saya tidak mengambil keuntungan sedikitpun ini untuk semua yang telah kalah ratusan juta, saya bisa membantu keuangan kalian walaupun hanya sedikit, mungkin cuman ini yang bisa saya lakukan.

Ternyata, video-video clip tersebut bukanlah rekaman asli, melainkan hasil manipulasi AI yang mampu meniru wajah dan suara para artis dengan sangat meyakinkan.

Melawan hoaks sama saja melawan pembodohan. Itu yang mendasari kami membuat Kanal Cek Fakta Liputan6.com pada 2018 dan hingga kini aktif memberikan literasi media pada masyarakat luas.

Masyarakat perlu selalu mengingat dan mengingatkan orang-orang terdekatnya untuk bersikap skeptis, rajin memverifikasi informasi, dan hanya mengandalkan sumber-sumber informasi yang legitimate, agar terhindar dari bahaya penipuan hoaks dan deepfake

Video tersebut diduga manipulasi karena terdapat sejumlah kejanggalan, antara lain, suara presenter dan Raffi tidak sesuai dengan gerak bibirnya. 

“Tujuan saya mendirikan situs dufam 365 ini adalah untuk saya jadikan ladang berbagi-bagi kepada masyarakat Indonesia, khususnya masyarakat Indonesia yang bermain slot online agar mereka tidak sembarangan bermain di situs abal-abal,” kata Raffi Ahmad di video clip itu.

"Kalau judi on the internet ya pasti merugikan sih, apa yang nggak aku lakuin tiba-tiba ada AI yang ngomong gitu, ya nggak sesuai," ungkap Atta pada tahun 2024 lalu.

Tak hanya di Indonesia, hal serupa marak terjadi di luar negeri. Organisasi pemeriksa fakta Spanyol, Maldita.es, menemukan bahwa banyak akun Twitter atau X bercentang biru turut menyebarkan deepfake berbahaya seperti itu.

"Ya tujuan saya mendirikan situs ojol sixty nine ini untuk saya jadikan ladang amal bagi masyarakat Indonesia dan khususnya masyarakat Situs Raffi Ahmad Indonesia yang bermain slot on the web agar tidak sembarangan bermain di situs abal-abal, masyarakat tidak perlu khawatir lagi jika menang tidak dibayar situs saya yang dirikan ini menang berapa saja tetap dibayar dan saya memberikan jaminan maxwin dalam waktu 10 menit saja."

Berbeda dengan artis-artis lainnya, Melaney Ricardo menjadi target video clip yang diedit menggunakan AI untuk tujuan promosi produk pelangsing. Dalam online video tersebut, ia terlihat merekomendasikan produk pelangsing yang ia gunakan.

Warganet diminta mengisi kolom komentar dengan menuliskan huruf "P" sebanyak puluhan kali untuk mendapatkan hadiah uang.

Najwa Shihab juga pernah menjadi sasaran editan yang dilakukan kecerdasan buatan alias AI. Dalam video clip yang telah dimanipulasi tersebut, ia terlihat sedang mempromosikan situs judi on the net dengan klaim dapat memberikan penghasilan hingga jutaan rupiah.