Penipuan online yang menggunakan teknologi kecerdasan buatan (AI) untuk mengelabui pengguna makin merajalela di berbagai platform, termasuk TikTok Shop. Menurut Nicolas Waldmann, Kepala Global TikTok Shop Governance and Experience, para penjahat siber menggunakan tool AI-generatif untuk membuat brand palsu dan produk tiruan.
Tujuannya untuk memancing pengguna membeli barang-barang yang sebenarnya tidak ada. "Sejujurnya, ini adalah kejahatan terorganisir," kata Waldmann. "Mereka pada dasarnya mencoba menjual, dan tentu saja, tidak pernah mengirimkan apa pun, lalu kabur membawa uang pelanggan."
Meskipun jenis penipuan e-commerce ini telah ada selama bertahun-tahun, AI generatif telah meningkatkan kecanggihan metode yang digunakan pelaku kejahatan. Namun, AI juga membantu platform untuk melacak modus penipuan.
TikTok menggunakan kombinasi moderasi manusia dan AI untuk membantu melacak akun dan iklan palsu. Perusahaan ini memiliki alat deteksi internal sendiri, serta kemitraan dengan perusahaan eksternal untuk mengelola tugas-tugas seperti otentikasi barang mewah bekas.
"Kami menggunakan AI untuk berhadapan dengan AI," kata Waldmann. Dalam laporan baru yang diterbitkan Kamis (6/11), TikTok Shop mengatakan telah menolak 70 juta produk dan menghapus 700.000 penjual karena berbagai pelanggaran kebijakan dalam 6 bulan pertama tahun 2025.
Penipuan ini membuat beberapa penjual yang mengaku telah melakukan pelanggaran tanpa penjelasan yang jelas. Namun, penegakan hukum otomatis perusahaan ini dapat membantu mencegah terjadi lebih banyak penipuan di platform TikTok Shop.
Tujuannya untuk memancing pengguna membeli barang-barang yang sebenarnya tidak ada. "Sejujurnya, ini adalah kejahatan terorganisir," kata Waldmann. "Mereka pada dasarnya mencoba menjual, dan tentu saja, tidak pernah mengirimkan apa pun, lalu kabur membawa uang pelanggan."
Meskipun jenis penipuan e-commerce ini telah ada selama bertahun-tahun, AI generatif telah meningkatkan kecanggihan metode yang digunakan pelaku kejahatan. Namun, AI juga membantu platform untuk melacak modus penipuan.
TikTok menggunakan kombinasi moderasi manusia dan AI untuk membantu melacak akun dan iklan palsu. Perusahaan ini memiliki alat deteksi internal sendiri, serta kemitraan dengan perusahaan eksternal untuk mengelola tugas-tugas seperti otentikasi barang mewah bekas.
"Kami menggunakan AI untuk berhadapan dengan AI," kata Waldmann. Dalam laporan baru yang diterbitkan Kamis (6/11), TikTok Shop mengatakan telah menolak 70 juta produk dan menghapus 700.000 penjual karena berbagai pelanggaran kebijakan dalam 6 bulan pertama tahun 2025.
Penipuan ini membuat beberapa penjual yang mengaku telah melakukan pelanggaran tanpa penjelasan yang jelas. Namun, penegakan hukum otomatis perusahaan ini dapat membantu mencegah terjadi lebih banyak penipuan di platform TikTok Shop.