Grok AI Milik Elon Musk Lepas Kendali?

Tren yang mengkhawatirkan telah muncul di platform media sosial X. Para pengguna membalas foto-foto wanita dan mendorong chatbot AI milik Elon Musk, Grok, untuk mengubah pakaian wanita tersebut menjadi bikini, atau sesuatu yang lebih terbuka dan eksplisit. Grok, yang dikembangkan oleh xAI, telah sengaja melonggarkan batasan sejak Mei 2025. Sekarang, dengan banyaknya permintaan seperti itu, chatbot tersebut menurutinya dengan menghasilkan gambar yang diedit oleh AI, yang men$3k$u@lisasi wanita di media sosial. Aspek yang paling mengkhawatirkan adalah gambar-gambar ini terlihat sangat nyata.

Sederhananya, orang asing mengambil foto wanita, yang sering dibagikan dalam konteks yang sama sekali tidak $3k$u@1, dan secara publik meminta AI untuk men3l@nj@n9i mereka. Grok merespons dengan gambar yang diedit yang menunjukkan wanita tersebut mengenakan bikini atau pakaian eksplisit serupa. Yang mengejutkan, jika pengguna meminta untuk mengubah pose wanita dalam foto menjadi pose $3k$u@l atau er0t!$, Grok juga memenuhi permintaan tersebut.

Dampaknya langsung terasa dan terlihat. Akun media Grok sendiri di X telah dibanjiri dengan gambar-gambar yang diedit tanpa persetujuan, memicu kemarahan luas. Menariknya, tab media di akun X Grok telah dinonaktifkan, tetapi jika seseorang membuka bagian balasan, bagian tersebut masih dipenuhi dengan gambar-gambar seperti itu.

Secara umum, chatbot AI beroperasi dalam lingkungan privat. ChatGPT dari OpenAI juga memungkinkan gambar semacam itu dihasilkan sampai batas tertentu, tetapi ini terjadi secara privat. Namun, Grok melakukannya secara publik, di mana semua orang dapat melihat gambar tersebut. Konten yang biasanya diblokir atau dibatasi pada obrolan privat di tempat lain justru ditampilkan secara terbuka, memperbesar paparan, pengh!n@an, dan, dalam beberapa kasus, bahaya.

Yang menarik, ketika OpIndia bertanya kepada Grok sendiri mengapa perilaku ini dibiarkan, Grok mengatakan bahwa Elon Musk telah memposisikan Grok sebagai AI yang "menantang" dengan lebih sedikit batasan dibandingkan para pesaingnya. Musk bahkan membual bahwa Grok akan menjawab pertanyaan yang ditolak oleh sistem lain.

Dalam praktiknya, Grok melampaui batas, dan ini membuat chatbot AI ini menjadi ceroboh. Meskipun dilaporkan menolak ket3l@nj@n9an secara terang-terangan, ia tetap mendekati batas gambar s3k$u@l tanpa persetujuan, dan dengan beberapa penyesuaian, beberapa pengguna mengklaim bahwa ia juga dapat melewati batasan dalam menampilkan ket3l@nj@n9an.

Apa yang dilakukan Grok sangat kontras dengan Gemini milik Google atau ChatGPT milik OpenAI. Kedua chatbot ini, yang sangat populer di kalangan pengguna, telah menerapkan filter yang lebih ketat, bahkan pada output pribadi. Bahkan ketika pengamanan gagal di tempat lain, visibilitas tetap terbatas. Dengan Grok, kerugiannya diperbesar karena outputnya bersifat publik sesuai desainnya.

Yang perlu diperhatikan, Grok juga menghadapi kritik karena pengguna telah mengamati bahwa linimasa platform tersebut hampir seluruhnya dipenuhi dengan gambar wanita yang dit3l@nj@n9i secara digital atau dibuat lebih terbuka. Apa yang seharusnya menjadi alat AI serbaguna telah menjadi galeri publik v0yeurisme digital yang dipaksakan.

*Implikasi etis, persetujuan digital, p3l3ceh@n, dan martabat*

Tren bermasalah ini telah memunculkan pertanyaan etis yang serius dan mendasar tentang persetujuan, otonomi, dan martabat di era digital. Citra perempuan diubah tanpa persetujuan mereka, dan mereka digambarkan mengenakan bikini. Ini bukan eksperimen AI yang tidak berbahaya. Ini adalah pelanggaran privasi yang terang-terangan.

Praktik ini merampas otonomi digital perempuan, mereduksi mereka menjadi bahan mentah untuk hiburan, pervndvngan daring, atau p3l3c3han. Ini merupakan p3l3c3han $3k$u@l berbasis gambar, suatu bentuk p3l3c3han yang semakin diakui sebagai sangat traumatis. Seperti yang dicatat oleh seorang ahli hukum saat membahas penyalahgunaan AI, ini bukanlah misogini yang terjadi secara tidak sengaja, melainkan disengaja. Posisi Grok yang permisif dan provokatif menurunkan hambatan untuk pelecehan dan justru memberinya visibilitas.

Berbicara kepada OpIndia, pakar keamanan siber Ananth Prabhu Gurpur mengatakan, “Ketika sistem AI digunakan untuk mengubah citra seorang wanita tanpa persetujuan, itu bukanlah inovasi, melainkan p3l3c3h@n digital. Teknologi tidak menghapus etika. Justru, teknologi meningkatkan tanggung jawab untuk melindungi martabat, privasi, dan otonomi tubuh di ruang daring.”

Persetujuan digital harus diperlakukan dengan keseriusan yang sama seperti persetujuan di dunia nyata. Foto yang dibagikan secara daring bukanlah undangan untuk perubahan yang bersifat $3k$u@l. Mengubah gambar biasa menjadi gambar yang bersifat $3k$u@l tanpa izin mencerminkan bahaya yang terlihat dalam kasus p0rnn09r@f! deepfake dan morphing. Kerusakannya bukanlah sesuatu yang abstrak. Korban dapat mengalami rasa malu, kerusakan reputasi, kecemasan, dan ketakutan, karena mengetahui bahwa orang asing telah melihat dan menyebarkan gambar $3k$u@l palsu tentang mereka. Laporan menunjukkan bahwa beberapa wanita telah berhenti mengunggah foto secara daring setelah menyaksikan penyalahgunaan tersebut, sebuah efek mengerikan pada partisipasi perempuan yang didorong oleh rasa takut