Pemerintah dan platform e-commerce mulai menyadari bahwa penipuan online di TikTok Shop dan Tokopedia semakin menyerang dengan menggunakan teknologi kecerdasan buatan (AI). Para pedagang penipu menggunakan AI generatif untuk membuat brand palsu dan produk tiruan, sehingga korban terjebak dalam penipuan yang sulit dilacak.
Menurut Nicolas Waldmann, Kepala Global TikTok Shop Governance and Experience, para penjahat siber menggunakan metode ini untuk memancing pengguna membeli barang-barang yang sebenarnya tidak ada. Mereka mencoba menjual dan tidak pernah mengirimkan apa pun kepada pelanggan, sehingga pelanggan kehilangan uang.
Sementara itu, AI juga membantu platform e-commerce seperti TikTok Shop dan Amazon untuk melacak modus penipuan. Amazon telah menggunakan serangkaian perangkat AI yang membantu perusahaan melacak produk palsu dan daftar yang melanggar di platformnya.
TikTok sendiri menggunakan kombinasi moderasi manusia dan AI untuk membantu melacak akun dan iklan palsu. Perusahaan ini memiliki alat deteksi internal sendiri, serta kemitraan dengan perusahaan eksternal untuk mengelola tugas-tugas seperti otentikasi barang mewah bekas.
Menurut Waldmann, "Kami menggunakan AI untuk berhadapan dengan AI." TikTok Shop telah menolak 70 juta produk dan menghapus 700.000 penjual karena berbagai pelanggaran kebijakan dalam 6 bulan pertama tahun 2025.
Sementara itu, Tokopedia juga memiliki daftar panjang barang terlarang yang tercantum di situs webnya, namun penipu yang cerdas tetap berhasil menerobos filternya untuk menjual barang-barang seperti sirup THC dan mainan seks.
Menurut Nicolas Waldmann, Kepala Global TikTok Shop Governance and Experience, para penjahat siber menggunakan metode ini untuk memancing pengguna membeli barang-barang yang sebenarnya tidak ada. Mereka mencoba menjual dan tidak pernah mengirimkan apa pun kepada pelanggan, sehingga pelanggan kehilangan uang.
Sementara itu, AI juga membantu platform e-commerce seperti TikTok Shop dan Amazon untuk melacak modus penipuan. Amazon telah menggunakan serangkaian perangkat AI yang membantu perusahaan melacak produk palsu dan daftar yang melanggar di platformnya.
TikTok sendiri menggunakan kombinasi moderasi manusia dan AI untuk membantu melacak akun dan iklan palsu. Perusahaan ini memiliki alat deteksi internal sendiri, serta kemitraan dengan perusahaan eksternal untuk mengelola tugas-tugas seperti otentikasi barang mewah bekas.
Menurut Waldmann, "Kami menggunakan AI untuk berhadapan dengan AI." TikTok Shop telah menolak 70 juta produk dan menghapus 700.000 penjual karena berbagai pelanggaran kebijakan dalam 6 bulan pertama tahun 2025.
Sementara itu, Tokopedia juga memiliki daftar panjang barang terlarang yang tercantum di situs webnya, namun penipu yang cerdas tetap berhasil menerobos filternya untuk menjual barang-barang seperti sirup THC dan mainan seks.