Komdigi Memutus Akses Grok, Elon Musk's AI Palsu Foto Palsu
Menteri Komunikasi dan Digital (Menkomdigi) Meutya Hafid meluncurkan operasi siber untuk mematikan akses terhadap fitur artificial intelligence (AI) Grok di aplikasi X (sebelumnya Twitter), yang diklaim memiliki kemampuan mengubah foto menjadi konten pornografi palsu. Kementerian Komunikasi dan Digital Indonesia (Komdigi) melakukan pemutusan sementara akses terhadap fitur tersebut setelah menemukan banyak pengguna X menggunakan Grok untuk mengedit foto dan membuat konten pornografi palsu.
Menurut Meutya, praktik deepfake seksual non-konsensual merupakan pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital. Kementerian Komdigi telah meminta aplikasi X untuk memberikan penjelasan terkait penyalahgunaan Grok dan meminta mereka untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan fitur tersebut.
Pemutusan sementara akses terhadap X dilakukan berdasarkan Pasal 9 Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat. Menurut Pasal tersebut, setiap penyelenggara sistem elektronik harus memastikan bahwa sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang.
Grok diumumkan sekitar beberapa waktu lalu dan banyak pengguna X meminta fitur tersebut untuk menghapus pakaian atau atribut seseorang hingga menjadi konten pornografi. Pihak pengembang aplikasi X kemudian mengakui bahwa mereka telah menemukan contoh-contoh konten yang dihasilkan Grok memiliki unsur pornografi dan segera akan mengambil tindakan untuk memperbaiki masalah tersebut.
Kepemutusan akses terhadap fitur AI ini merupakan langkah pemerintah untuk melindungi warga negara dari risiko konten pornografi palsu yang dihasilkan oleh aplikasi tersebut.
Menteri Komunikasi dan Digital (Menkomdigi) Meutya Hafid meluncurkan operasi siber untuk mematikan akses terhadap fitur artificial intelligence (AI) Grok di aplikasi X (sebelumnya Twitter), yang diklaim memiliki kemampuan mengubah foto menjadi konten pornografi palsu. Kementerian Komunikasi dan Digital Indonesia (Komdigi) melakukan pemutusan sementara akses terhadap fitur tersebut setelah menemukan banyak pengguna X menggunakan Grok untuk mengedit foto dan membuat konten pornografi palsu.
Menurut Meutya, praktik deepfake seksual non-konsensual merupakan pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital. Kementerian Komdigi telah meminta aplikasi X untuk memberikan penjelasan terkait penyalahgunaan Grok dan meminta mereka untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan fitur tersebut.
Pemutusan sementara akses terhadap X dilakukan berdasarkan Pasal 9 Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat. Menurut Pasal tersebut, setiap penyelenggara sistem elektronik harus memastikan bahwa sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang.
Grok diumumkan sekitar beberapa waktu lalu dan banyak pengguna X meminta fitur tersebut untuk menghapus pakaian atau atribut seseorang hingga menjadi konten pornografi. Pihak pengembang aplikasi X kemudian mengakui bahwa mereka telah menemukan contoh-contoh konten yang dihasilkan Grok memiliki unsur pornografi dan segera akan mengambil tindakan untuk memperbaiki masalah tersebut.
Kepemutusan akses terhadap fitur AI ini merupakan langkah pemerintah untuk melindungi warga negara dari risiko konten pornografi palsu yang dihasilkan oleh aplikasi tersebut.