Grok milik Musk diblokir di Indonesia dan Malaysia karena menampilkan gambar-gambar yang bersifat seksual dalam platform pertama di dunia
Liga335 daftar – Grok milik Elon Musk telah diblokir oleh Indonesia dan Malaysia, yang menjadi negara pertama yang mengambil langkah tersebut setelah fungsi “digital undressing” dari alat kecerdasan buatan tersebut membanjiri internet dengan foto-foto perempuan dan anak di bawah umur dalam gambar yang dimanipulasi secara sugestif dan cabul. Tekanan internasional terhadap Musk semakin meningkat untuk mengendalikan Grok menyusul tren viral di mana pengguna meminta alat AI tersebut untuk menghasilkan deepfake yang eksplisit secara seksual. Grok adalah alat di platform media sosial Musk, X, yang sebelumnya dikenal sebagai Twitter.
Menteri Digital Indonesia Meutya Hafid mengatakan dalam pernyataan pada Sabtu bahwa larangan tersebut bertujuan untuk “melindungi perempuan, anak-anak, dan masyarakat luas dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan buatan.” Malaysia mengumumkan larangan sementara pada Minggu menyusul “penyalahgunaan berulang Grok untuk menghasilkan gambar yang cabul, eksplisit secara seksual, tidak senonoh, sangat menyinggung, dan dimanipulasi tanpa persetujuan, termasuk konten yang melibatkan perempuan dan anak di bawah umur.” Indonesia dan Malaysia Kedua negara tersebut merupakan negara dengan mayoritas penduduk Muslim yang memiliki undang-undang anti-pornografi yang ketat.
Para pejabat di Inggris, Uni Eropa, dan India juga telah menyampaikan kekhawatiran mereka terkait sistem pengamanan Grok. Ketika dimintai komentar mengenai larangan tersebut, perusahaan induk Grok, xAI, memberikan pernyataan singkat yang terdiri dari tiga kata: “Media Lama Berbohong.” Sebelumnya, Musk dan xAI mengatakan mereka menangani masalah ini dengan menangguhkan secara permanen akun-akun yang melanggar aturan dan “bekerja sama dengan pemerintah lokal dan penegak hukum.
” Namun, respons Grok terhadap permintaan pengguna masih dibanjiri gambar-gambar yang mengeksploitasi seksual perempuan. Grok dianggap oleh banyak pengguna sebagai penyimpangan dibandingkan model AI mainstream lainnya karena memperbolehkan, dan dalam beberapa kasus mempromosikan, konten eksplisit seksual dan avatar pendamping. Lonjakan tren “digital undressing” dimulai akhir tahun lalu ketika banyak pengguna menemukan bahwa mereka dapat menandai Grok di X dan membuatnya memanipulasi gambar.
Pengguna telah memicu chatbot tersebut untuk menghasilkan gambar orang-orang yang mengenakan bikini dan berpose secara menggoda, yang menyebabkan ketidaknyamanan bagi ratusan ribu orang gambar perempuan di seluruh dunia. Para peneliti di AI Forensics, sebuah organisasi nirlaba Eropa yang meneliti algoritma, menganalisis lebih dari 20.000 gambar acak yang dihasilkan oleh Grok dan 50.
000 permintaan pengguna antara tanggal 25 Desember dan 1 Januari. Para peneliti menemukan “tingginya prevalensi istilah-istilah seperti ‘dia’ ‘tambahkan’/’hapus,’ ‘bikini,’ dan ‘pakaian.’” Lebih dari setengah gambar yang dihasilkan dari orang-orang “menampilkan individu dengan pakaian minim seperti pakaian dalam atau bikini.
” Musk menentang sensor Secara terbuka, Musk telah lama menentang model AI “woke” dan apa yang ia sebut sebagai sensor. Namun, miliarder tersebut telah menentang batasan-batasan untuk Grok di dalam perusahaan, kata seorang sumber yang mengetahui situasi di xAI. Tim keamanan xAI, yang sudah kecil dibandingkan dengan pesaingnya, kehilangan beberapa staf dalam beberapa minggu menjelang kontroversi tersebut.
Musk mengatakan siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi. Namun, ia sebagian besar mengabaikan kekhawatiran tentang konten seksual di aplikasi tersebut, dengan alasan pemerintah “hanya ingin membungkam kebebasan berekspresi” dan menanggapi kritik dengan emoji. Pekan lalu, Grok membatasi beberapa fitur pembuatannya gambar hanya untuk pelanggan berbayar X, namun pembatasan tersebut hanya berlaku pada salah satu cara pengguna berinteraksi dengan Grok.
Pengguna non-berlangganan masih dapat meminta Grok untuk mengedit gambar di aplikasi, dan fungsi pembuatan gambar serta video masih ditawarkan secara gratis melalui situs web dan aplikasi mandiri. Pada hari Senin, regulator layanan komunikasi Inggris membuka penyelidikan resmi terhadap X untuk menentukan apakah mereka telah mematuhi kewajibannya dalam melindungi masyarakat Inggris dari konten ilegal. Gambar orang yang telanjang dapat dikategorikan sebagai penyalahgunaan gambar intim atau pornografi, sementara gambar anak-anak yang diseksualisasi dapat dianggap sebagai materi pelecehan seksual anak, kata Ofcom dalam sebuah pernyataan.
Jika regulator menemukan bahwa X telah melanggar hukum, mereka dapat menjatuhkan denda hingga £18 juta ($24 juta) atau 10% dari pendapatan global perusahaan yang memenuhi syarat, mana yang lebih besar.
