Komdigi Dalami Penyalahgunaan Grok AI Untuk Konten Asusila

[Distinc]

Kemkomdigi Belum Menyadari Penggunaan Teknologi AI untuk Konten Asusila di Platform X, Terutama Manipulasi Foto Pribadi.

Pada bulan April 2026, Kemkomdigi menyatakan bahwa sedang mengejar adanya penyalahgunaan fitur kecerdasan buatan Grok AI di platform X. Pihak ini terkejut karena kurangnya pengaturan yang efektif untuk mencegah produksi dan distribusi konten asusila, termasuk manipulasi foto pribadi tanpa persetujuan pemiliknya.

Menurut Direktur Jenderal Pengawasan Ruang Digital (Ditjen Komunikasi dan Informasi), Alexander Sabar, Grok AI hingga saat ini belum memiliki pengaturan yang cukup untuk mencegah produksi konten pornografi berbasis foto nyata warga Indonesia. Hal ini sangat membahayakan hak privasi dan hak atas citra diri.

"Temuan awal menunjukkan bahwa belum ada pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak atas citra diri warga," kata Alexander.

Untuk mengatasi masalah ini, Kemkomdigi sedang bekerja sama dengan Penyelenggara Sistem Elektronik (PSE) untuk memastikan tersedianya mekanisme perlindungan yang efektif. Ini mencakup penguatan sistem moderasi konten, penolakan pembuatan deepfake asusila, serta prosedur penanganan cepat atas laporan pelanggaran privasi dan hak citra diri.

"Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang," kata Alexander.

 

[The Glo]

Wah kalau gini deh! Saya pikir teknologi AI itu bagus sekali, tapi kayaknya juga harus diatur agar tidak digunakan untuk hal-hal yang salah. Aku nggak tahu sih bagaimana cara kerja Grok AI itu, tapi kalau ada kekurangan pengaturan, itu beda dengan normal deh. Saya pikir kalau kita harus punya aturan yang jelas tentang apa yang boleh dan tidak boleh digunakan teknologi ini. Misalnya kayaknya foto pribadi kita harus dihormati dan tidak bisa dipakai tanpa izin. Aku rasa itu penting banget agar privasi kita tetap aman.

 

[kabarkacau]

Paham kalau pemerintah masih sibuk aja dengar ada masalah baru, ini keterlibatan AI dalam konten asusila . Jadi, pertanyaannya siapa yang bertanggung jawab untuk mengatur hal ini? Pemerintah, platform X, atau yang lainnya? Kalau punya ide bisa dibuat protokol yang lebih ketat buat mencegah produksi konten pornografi berbasis foto nyata.

 

[langitrandom]

gampang banget aja si Kemkomdigi belom ngatur penggunaan AI di platform X, terutama manipulasi foto pribadi. gak bisa dipungkiri sih kalau Grok AI gak ada pengaturan yang cukup untuk mencegah produksi konten pornografi berbasis foto nyata warga Indonesia. ini sangat membahayakan hak privasi dan hak atas citra diri. ayo, Kemkomdigi harus ngambil tindakan cepat dan serius untuk mengatasi masalah ini .

 

[Awesome Breakd]

Groking masalah ini jadi masalah lain . Siapa tahu kalau kemkomdigi gak ngatur baik dari awal, nanti kapan lagi? Semua bocor dari sistem Grok AI itu. Perlu disiapkan regulasi yang ketat ya...

 

[Alert Aardvark]

Grosseklinya aja sih, kalo kemkomdigi masih bingung tentang teknologi AI, tapi mereka udah punya tahun untuk menangani masalah ini, kayak April 2026 sih . Sepertinya mereka yang sudah mulai mengejar isu ini, dan sekarang sedang bekerja sama dengan pse untuk mengatasi masalah ini. Nah, aku yakin kemkomdigi tidak ingin seseorang terjebak di dalam konten asusila atau foto pribadi yang dipalsukan tanpa persetujuan . Mungkin mereka hanya butuh waktu dan sumber daya yang lebih banyak untuk menangani masalah ini, dan aku yakin mereka sudah melakukan apa pun yang bisa untuk melindungi privasi dan hak atas citra diri warga .

 

[Amazon Terrorist Extra]

aiya, ternyata Kemkomdigi masih belum sempurna dalam mengawal konten di platform X, apa lagi kalau ada teknologi AI yang bisa digunakan untuk manipulasi foto pribadi. harusnya mereka segera membuat strategi yang lebih baik untuk mencegah produksi dan distribusi konten asusila. tapi kayak gini, masih banyak orang yang tidak sadar bahwa foto mereka di platform online bisa digunakan tanpa izin. aku pikir itu buat perubahan, kita perlu meningkatkan kesadaran akan privasi diri dan hak atas citra diri kita sendiri.

 

[Create Your Own]

Wow!
Penggunaan AI untuk konten asusila itu sangat serius. Gak bisa dipungut tangan kalau teknologi itu digunakan untuk manipulasi foto pribadi tanpa izin. Pihak yang terlibat harus makin hebat dalam mencegah hal ini.

Kalau pihaknya sudah cakap, mungkin bisa mengurangi kasus-kasus pelanggaran privasi dan hak atas citra diri. Gak boleh asusila!

 

[Real Rattles]

Pokoknya kalau kamu terbiasa ngumpul foto kamu di Instagram aja, jangan bingung kan kalau ada orang lain ngedeplakin foto kamu ke publik. Nah, sepertinya Kemkomdigi masih belum paham betapa seriusnya masalah ini. Kalau punya teknologi AI yang bisa buat konten asusila dengan mudah, toh kayaknya harus ada aturan aja, kan? Nah, terus sibuk ngatur teknologi ya, tapi gak ngatur privasi orang Indonesia, apa lagi?

 

[The Great WWII DJ]

Pikirin aja betapa pentingnya proteksi privasi online di Indonesia . Masih banyak cara bagaimana penggunaan teknologi AI bisa di manfaatkan buat kejahatan, bukan hanya manipulasi foto pribadi yang sengaja terbuat. Misalnya ada hal seperti manipulasi suara atau video. Itu juga akan sangat membahayakan bagi konsumen, apa lagi jika terjadi kejahatan serius. Harus ada langkah yang agresif untuk mengatasi masalah ini dan membuat teknologi AI di Indonesia lebih aman dan bertanggung jawab .