Tekanan meningkat bagi Apple untuk mencopot aplikasi X; xAI menyatakan Grok tak lagi “mengupas” orang.

Hanya berselang beberapa jam setelah 28 lembaga hak digital, keselamatan anak, dan hak perempuan menyerukan Apple untuk “segera bertindak” menyingkirkan X dan Grok AI, xAI mengumumkan bahwa Grok tidak lagi bisa sunting “foto orang nyata berpakaian minim seperti bikini,” meski masih ada sejumlah pengecualian.

Belakangan, pengguna X dan Grok membanjiri chatbot xAI dengan permintaan menelanjangi perempuan hingga anak di bawah umur dari foto yang diunggah di X. Awalnya xAI menyebutnya “kelalaian pengaman,” tapi Grok tetap menuruti permintaan tersebut. Akibatnya, X diblokir di beberapa negara dan xAI diselidiki di tempat lain.

Tekanan terhadap Apple kian meninggi. Senator dan pengguna menuntut agar X serta Grok disingkirkan dari App Store. Hari ini, koalisi 28 lembaga mengirim surat terbuka ke Apple maupun Google, meminta keduanya “segera melarang Grok—model bahasa besar buatan xAI—di toko aplikasi mereka.”

Kutipan surat:

Kami menulis untuk mendorong pimpinan Apple segera melarang Grok di App Store. Grok dipakai memproduksi massal gambar intim tanpa persetujuan (NCII) termasuk materi pelecehan seksual anak (CSAM)—keduanya merupakan kejahatan sekaligus melanggar Pedoman Ulas App Apple. Karena Grok tersedia lewat aplikasi tersendiri dan terintegrasi langsung di X, kami meminta Apple segera mencopot kedua aplikasi tersebut.

Apple dan Google sejauh bungkam, memicu tudingan bahwa mereka takut menyinggung Elon Musk hingga Presiden Trump. Sementara itu, xAI hari ini membenarkan akan memperbarui akun Grok di X:

• Teknologi baru dicegah menyunting foto orang nyata berbikini atau pakaian minim. Berlaku untuk semua pengguna, pelanggan berbayar sekalipun.
• Fitur buat dan sunting gambar di X kini hanya dibuka untuk pelanggan berbayar supaya pelanggar dapat dilacak.
• Di wilayah hukum yang melarangnya, kemampuan membuat gambar orang nyata berbikini, celana dalam, atau pakaian serupa diblokir sepenuhnya.

Meski begitu, telusuran cepat menunjukkan pelanggan X sudah berupaya mengakali pembatasan baru dan sebagian berhasil. Pengguna non-pelanggan kebanyakan hanya melihat pemberitahuan:

“Pembuatan dan penyuntingan gambar saat ini terbatas untuk pelanggan Premium terverifikasi.”

Apakah langkah ini cukup menyelesaikan masalah belum terlihat. Pengalaman membuktikan pelaku daring kerap tembus kreatif menembus pengaman, khususnya untuk menyerang perempuan.

Apple dan Google seharusnya cukup melakukan dua langkah: (1) saat masalah terangkat, tangguhkan aplikasi; (2) setelah X benar-benal ubah kebijakan dan cara kerja, aktifkan kembali.

Dengan berbagai pengecualian yang masih ada—sebagian aturan hanya untuk akun Grok di X—kemungkinan besar masalah ini belum usai, terutama bagi korban.

Yang jelas, tampaknya Apple memilih diam-diam menanti masalah ini reda, dan setiap gambar bikini tanpa persetujuan maupun CSAM yang bisa diakses anak di aplikasi X iOS selama berminggu-minggu memperlihatkan bahwa klaim “App Store aman” makin tergerus.

FTC: Kami memakai tautan afiliasi otomatis yang dapat menghasilkan pendapatan. Selengkapnya