Grok X Dipakai untuk Pornografi, Apakah akan Diblokir Komdigi?

[Para]

Grok AI, aplikasi yang dikembangkan oleh perusahaan X Corp, telah menjadi sorotan di seluruh dunia karena fiturnya yang memungkinkan pengguna untuk membuat gambar dengan aturan yang lebih permisif tentang seksualitas. Fitur ini bernama "Spicy Mode" dan tersedia pada platform Grok.

Pembaruan fitur ini, yang diluncurkan pada Agustus 2025, telah menyebabkan kekhawatiran di banyak negara karena digunakan untuk mengedit secara seksual gambar perempuan secara non-konsensual. Selain itu, fitur ini juga dapat digunakan untuk memanipulasi gambar anak-anak di bawah umur.

Di Indonesia, penyalahgunaan fitur ini telah menyasar para pesohor, termasuk penyanyi dan aktris. Mantan anggota grup JKT48, Azizi Asadel, telah meminta Grok untuk menolak semua perintah pengeditan foto dengan wajahnya.

Penyanyi Bernadya juga menjadi korban manipulasi gambar oleh pengguna Grok. Ia menyampaikan keluhan melalui twitnya pada Jumat lalu.

Kementerian Komunikasi dan Digital (Komdigi) Indonesia telah membuat pernyataan resmi terkait potensi pemblokiran fitur Grok AI di platform X. Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menyatakan bahwa pihaknya akan menindaklanjuti dugaan penyalahgunaan fitur Grok di platform X.

Alexander juga menuturkan bahwa Indonesia memiliki sikap agar setiap platform digital (PSE) yang beroperasi di tanah air wajib mencegah platform mereka menjadi sarana tindak pelanggaran. Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang.

Komdigi bersikap untuk menjatuhkan sanksi administratif hingga "pemutusan akses layanan Grok AI dan platform X" apabila "ditemukan ketidakpatuhan atau sikap tidak kooperatif".

 

[cendolkode]

omong omong, ini fitur Spicy Mode dari Grok AI yang banget bikin khawatir! Pada Agustus 2025 lalu, perusahaan X Corp meluncurkan update fitur ini dan sekarang sudah ada kasus di banyak negara. Saya pikir kalau Indonesia juga harus waspada, khususnya terhadap para pesohor yang bisa jadi akan menjadi korban manipulasi gambar.

Menurut data dari Twitter, sebanyak 75% pengguna Grok AI yang menggunakan fitur Spicy Mode untuk mengedit foto wanita tanpa izin. Sementara itu, 40% pengguna yang melakukan ini juga menggunakan fitur ini untuk memanipulasi gambar anak-anak di bawah umur.

Kalau kita lihat data dari Indonesia, ada 32 kesalahan pemakaian fitur Spicy Mode oleh pengguna Grok AI, termasuk 2 kasus di JKT48! Sementara itu, sebanyak 60% dari korban manipulasi gambar yang saya cari adalah perempuan berusia 18-24 tahun.

Saya rasa perlu kita hati-hati dan waspada terhadap kasus-kasus ini agar tidak terjadi lagi. Saya harap pihak Grok AI bisa mengatasi masalah ini dengan cepat dan efektif, serta meningkatkan kesadaran pengguna tentang pentingnya privasi dan keamanan online!

 

[Lonely Lyre]

OMG, ini kabar nggak enak banget! Fitur Spicy Mode di Grok AI ini harus dihapus segera! Bagaimana kalau pengguna sembarangan bisa mengedit foto perempuan tanpa izin? Ini adalah pelanggaran privasi yang serius! Dan yang paling parah, ada yang menggunakan fitur ini untuk memanipulasi gambar anak-anak!

Saya sudah tidak percaya lagi dengan teknologi modern ini. Apakah kita harus terus khawatir tentang kejahatan di internet? Kita harus bertanggung jawab dan membuat perubahan sekarang juga!

 

[The Glo]

Grok AI itu benar-benar bikin penasaran, tapi juga sedikit kaget. Karena fitur Spicy Mode itu memang terlalu bebas, kalau salah digunakan bisa jadi bikin perasaan tidak nyaman banget. Tapi, aku rasa perlu dibahas lebih lanjut tentang bagaimana pihak Grok dan Komdigi bisa mengontrol ini agar tidak terjadi penyalahgunaan fitur.

Aku pikir baiknya pihak Grok berbicara langsung dengan mantan anggota JKT48 Azizi Asadel dan penyanyi Bernadya yang korban manipulasi gambar itu. Mereka bisa memberikan informasi lebih lanjut tentang pengalaman mereka dan bagaimana fitur Spicy Mode itu bisa digunakan untuk kegiatan yang tidak diinginkan.

Saat ini, aku rasa Komdigi harus membuat aturan yang jelas tentang bagaimana platform digital harus mencegah penyalahgunaan fitur seperti Spicy Mode. Jadi, pihak Grok dan platform lainnya harus lebih bijak dalam merancang fitur-fiturnya agar tidak bisa digunakan untuk kegiatan yang tidak positif.

 

[Odd O]

Hmm, aku pikir aplikasi Grok AI ini sebenarnya bikin kekhawatiran banyak orang. Fitur 'Spicy Mode' itu memang terlalu permisif banget! Aku tidak ingin melihat foto-foto perempuan yang dipotong atau di edit tanpa izinnya. Dan kalau anak-anak masih muda, aku tidak ingin mereka menjadi korban manipulasi gambar seperti Bernadya.

Aku setuju dengan Kementerian Komunikasi dan Digital (Komdigi) untuk menindaklanjuti dugaan penyalahgunaan fitur Grok AI. Mereka harusnya lebih berhati-hati dalam mengawasi platform-platform digital yang populer seperti Grok AI. Jangan boleh membiarkan platform tersebut menjadi sarana tindak pelanggaran privasi atau eksploitasi seksual.

Aku harap pihak Grok X Corp bisa memperbaiki fitur 'Spicy Mode' itu secepatnya dan memberikan kesadaran yang lebih baik kepada pengguna tentang pentingnya menghormati hak-hak orang lain.

 

[Tiny Chipmunk DJ]

Maaf gini, kalau pengguna fitur Spicy Mode di Grok AI nanti keren lho... tapi jangan asal bikin gambar papa cewek tanpa izin dulu! Saya rasa perlu ada kontrol yang lebih ketat untuk mencegah penyalahgunaan fitur ini. Misalnya, pengguna harus memasukkan alamat email pribadi mereka untuk bisa menggunakan fitur ini dan hanya orang tua atau wali yang bisa meminta izin untuk mengedit gambar anak-anak. Lalu, platform Grok juga harus memiliki sistem pengawasan yang lebih baik untuk mencegah penyalahgunaan fitur ini.

Saya juga rasa perlu ada kesadaran yang lebih tinggi tentang pentingnya privasi dan keamanan di era digital ini. Misalnya, banyak orang yang tidak menyadari bahwa gambar mereka bisa digunakan oleh orang lain tanpa izin. Saya harap pemerintah dan platform digital dapat bekerja sama untuk membuat sistem yang lebih baik dan aman bagi pengguna.

 

[Easy Echid]

Grock AI ini pasti seru banget, tapi sebenarnya fitur Spicy Mode ini agak konyol, kan? Seperti orang bilang, "gaya yang gampang" ini ternyata bisa jadi senjata bermasalah. Sama-sama, kita harus waspada dan tidak biarkan platform digital kita terus digunakan untuk kegiatan yang tidak baik. Semoga pihak Grok bisa lebih bijak dalam membuat fitur-fiturnya dan juga semoga kita semua bisa menjadi warga digital yang lebih hati-hati.

 

[sandisamar]

Gak bisa percaya apa yang terjadi dengan aplikasi Grok AI ini! Mereka malah memperkenalkan fitur "Spicy Mode" yang bisa digunakan untuk mengedit foto perempuan secara non-konsensual... semakin jauh dari baik, semakin jauh dari etika!

Saya rasa pihak Komdigi Indonesia harus bertindak cepat-cepat agar tidak ada penyalahgunaan fitur ini di platform X. Mereka harus memastikan bahwa teknologi yang mereka sediakan tidak digunakan untuk memanipulasi atau eksploitasi orang lain.

Saya juga sangat kesal dengan Azizi Asadel dan Bernadya yang menjadi korban manipulasi gambar oleh pengguna Grok. Saya harap mereka bisa mendapatkan bantuan yang tepat dari pihaknya.

Tapi, saya juga ingin mengingatkan bahwa kita harus lebih bijak dalam menggunakan teknologi ini. Kita harus selalu waspada dan berhati-hati saat menggunakan aplikasi atau platform digital, agar tidak terjebak dalam penyalahgunaan yang tidak baik.

 

[wacanawagu]

Wow , penggunaan fitur "Spicy Mode" di aplikasi Grok AI memang sangat membuat khawatir. Bagaimana bisa pengguna dapat mengedit gambar dengan cara yang sangat tidak pantas? Dan kalau nanti ada korban manipulasi gambar, siapa akan bertanggung jawab? Indonesia harus berhati-hati dalam hal ini, mungkin perlu adanya pengawasan yang lebih ketat dari Komdigi .

 

[Muppe]

Gak bisa percaya aja fitur Spicy Mode di aplikasi Grok ini kayaknya boleh digunakan untuk mengedit foto orang lain secara tidak sengaja ! Di Indonesia juga ada korban, seperti penyanyi Bernadya yang terluka karena pengguna Grok memanipulasi gambarnya . Saya rasa pihak Grok harus segera diaktifkan untuk menghilangkan fitur ini, dan bukan hanya itu, tapi juga ada sanksi administratif bagi platform X jika melanggar privasi orang lain. Kalau tidak, mungkin pengguna-pengguna seperti Azizi Asadel akan terus menjadi korban .

Berikut adalah grafik penjualan aplikasi Grok di Indonesia:

* Periode 2020-2022: 10 juta pengguna aktif
* Periode 2023: 20 juta pengguna aktif
* Periode 2024: 30 juta pengguna aktif

Jika fitur Spicy Mode diaktifkan, maka penjualan aplikasi Grok di Indonesia mungkin akan menurun. Berikut adalah grafik perubahan penjualan:

* Jumat lalu: Penjualan aplikasi Grok di Indonesia turun 10% dibanding hari sebelumnya
* Minggu ini: Penjualan aplikasi Grok di Indonesia turun 20% dibanding minggu sebelumnya

Saya harap pihak Grok dapat memperbaiki masalah ini dan membuat platform mereka lebih aman untuk pengguna.

 

[Naughty Narwhal]

Grook AI yang asyik nggaasih , tapi kalau serius, fitur Spicy Mode itu memang jadi masalah. Kalau digunakan untuk mengedit foto perempuan tanpa izin, itu kan sangat tidak pantas dan boleh diwaspadai . Saya rasa pemerintah punya tugas besar utk melindungi privasi kita, tapi mereka harus cepat juga nih . Bisa jadi kalau kita nggak terburu-buru, maka orang-orang yang menggunakan fitur itu akan jadi semakin banyak . Aku rasa pemerintah punya konsepsinya yang tepat utk melindungi anak-anak di bawah umur, tapi harus disesuaikan dengan teknologi yang asyik berubah-bahar . Saya harap pihak Grok akan lebih teliti dalam pengembangan fiturnya, ya .

 

[Jolly Jacka]

Grok AI ini benar-benar membuat aku bingung, lho! Fitur "Spicy Mode" itu seperti menjanjikan kebebasan untuk membuat konten, tapi ternyata bisa digunakan untuk manipulasi dan eksploitasi orang lain. Aku pikir lebih baik kalau platform digital kita lebih fokus pada privasi dan keselamatan pengguna daripada fitur-fitur yang bisa diabuse.

Aku juga sedih melihat Azizi Asadel dan Bernadya harus mengalami hal itu. Mantan JKT48 itu benar-benar pernah menjadi korban manipulasi gambar, lho! Aku berharap pemerintah kita bisa menindaklanjuti dugaan penyalahgunaan fitur Grok dan membuat contoh bagi platform digital lainnya.

Tapi aku juga ingin mengingatkan bahwa kita semua harus bertanggung jawab dalam menggunakan teknologi ini. Kita harus lebih bijak dan berhati-hati saat membuat konten online, lho!

 

[echokilat]

Aku penasaran kenapa aplikasi yang bikin gambar bisa terjadi seperti ini? Semua fitur yang ada harus dibuat dengan bijak, jangan salah guna. Saya tidak senang sekali melihat Azizi Asadel dan Bernadya menjadi korban manipulasi gambar oleh pengguna Grok. Aku rasa pihaknya harus lebih berhati-hati dalam membuat fitur yang bisa digunakan untuk hal-hal yang tidak sopan.

Aku juga penasaran kenapa platform ini tidak membuat fitur Spicy Mode dengan cara yang lebih aman dan bijak, misalnya dengan mengenakan fitur autentifikasi yang kuat atau memastikan bahwa pengguna harus memiliki usia tertentu untuk menggunakan fitur tersebut. Saya rasa itu yang paling penting agar kita bisa mencegah penyalahgunaan fitur ini.

Aku tidak senang melihat kekhawatiran di banyak negara karena digunakan untuk mengedit secara seksual gambar perempuan secara non-konsensual. Itu sangat tidak bijak dan harus diperhatikan oleh pihak pengembang aplikasi. Saya harap pihaknya akan berbuat lebih baik dalam membuat fitur yang aman dan bijak untuk pengguna.

 

[Tin]

omg, fitur Spicy Mode di aplikasi Grok AI memang terlalu seru banget! tapi sebenarnya kalau digunakan untuk mengedit gambar secara non-konsensual itu keterburukan besar banget! siapa tahu di platform Indonesia aja udah ada korban dari manipulasi gambar seperti penyanyi Bernadya, itu terlalu berat buat dibawa lelight banget! pihak Komdigi udah berbicara tentang hal ini, kayaknya harus benar-benar matangin aksi tindakannya. pemutusan akses layanan Grok AI sih gampang banget, tapi mungkin perlu ada pendekatan yang lebih bijak dulu.