Langkah ini diambil setelah bot tersebut diketahui menghasilkan gambar eksplisit perempuan dan anak-anak tanpa persetujuan, di platform X milik Elon Musk.
xAI, perusahaan di balik Grok, sedikit melakukan upaya untuk menyelesaikan masalah pembuatan gambar eksplisit tanpa persetujuanFoto: Jakub Porzycki/NurPhoto/picture alliance
Iklan
Akhir pekan lalu, Indonesia dan Malaysia menjadi negara pertama di dunia yang memblokir akses ke Grok, chatbot AI milik Elon Musk, setelah disalahgunakan untuk membuat gambar seksual eksplisit tanpa persetujuan.
Indonesia memblokir sementara Grok pada Sabtu (10/1), diikuti Malaysia pada Minggu (11/1).
Grok, yang bisa diakses melalui X (sebelumnya Twitter), memicu kemarahan global karena digunakan untuk menghasilkan gambar perempuan dalam posisi seksual eksplisit dan mengenakan bikini. Beberapa gambar bahkan melibatkan anak-anak.
Solusi Inovatif untuk Mengatasi Kasus Pelecehan Seksual
Hampir satu dari tiga perempuan pernah mengalami kekerasan fisik atau seksual setidaknya sekali seumur hidup, demikian laporan WHO 2021 lalu. Berikut ragam solusi digital sebagai upaya atasi pelecehan seksual.
Foto: Montira Narkvichien/UN Women | CC BY-NC-ND 2.0
Cincin alarm
Katya Romanovskaya awalnya pernah diserang. Pengalaman ini mendorongnya mendirikan perusahaan Nimb, yang menciptakan tombol darurat berbentuk cincin. Perhiasan buatan Rusia ini dirancang untuk memberi rasa aman pada perempuan. Jika tidak sengaja mengaktifkan peringatan, pengguna dapat membatalkannya dalam hitungan 20 detik. Namun, ada kata sandinya, jadi tidak semua orang bisa menghapusnya.
Foto: Mark Lennihan/AP/picture alliance
Cara kerja Nimb
Pengguna mengirimkan peringatan dan lokasi ke daftar nomor telepon yang telah dipilih sebelumnya. Pesan disampaikan dalam bentuk pemberitahuan baik berupa getaran, panggilan telepon, atau email. Orang yang memakai Nimb akan melihat cincin mereka bergetar dan tahu bahwa ada teman dan kerabat dalam bahaya. Informasi peringatan itu juga diteruskan ke layanan darurat dan kantor polisi.
Foto: Stephen Chung/ZUMA/imago
Berbicaralah kepada Spot
Insinyur dari Jerman dan Swiss menciptakan Spot, sebuah chatbot khusus yang memungkinkan karyawan melaporkan tuduhan pelecehan seksual secara anonim. Bot diprogram untuk mengajukan pertanyaan dan memberikan informasi serta saran untuk membantu mereka menyelidiki insiden ini. Jawaban akan dirangkum ke dalam PDF, dengan lembar sampul yang tampak formal, yang dapat dikirim melalui email ke HRD.
Foto: Andriy Popov/PantherMedia/imago images
Sis bot buatan Thailand
Letkol Peabrom Mekhiyanont membuat chatbot yang memberikan informasi 24/7 bagi para penyintas kekerasan seksual. Bot ini dapat diakses melalui perangkat seluler atau komputer. Penyintas dapat mengirim pesan lewat Facebook Messenger, dan nanti akan otomatis dipandu terkait bagaimana cara melapor ke polisi, cara menyimpan barang bukti, dan layanan dukungan yang didapat para penyintas secara hukum.
Foto: Montira Narkvichien/UN Women | CC BY-NC-ND 2.0
Terkoneksi di malam hari dengan bthere
Aplikasi ini ditujukan untuk pengguna yang berusia 18-22 tahun demi mengurangi kasus kekerasan seksual yang terjadi di kampus-kampus di AS. Teknologi ini berupaya untuk membantu penggunanya menghindari situasi berbahaya dengan mendorong mereka terkoneksi di malam hari. Alat ini dilengkapi dengan fitur berkirim pesan, berbagi lokasi, bahkan hadiah yang mendorong pengguna habiskan waktu bersama.
Foto: bthere
Bagaimana cara kerja bthere?
Pengguna mendaftar dan membuat "lingkaran" dengan teman kampus, keluarga, atau teman serumah, yang dapat bersifat permanen atau sementara, misalnya hanya untuk keluar malam di hari tertentu. Aplikasi ini memiliki dua tujuan yakni menjaga anak muda tetap aman, tetapi juga memberi peluang agar mereka menghabiskan lebih banyak waktu bersama dalam kehidupan nyata, dengan memanfaatkan kekuatan digital.
Foto: bthere
Callisto di kampus di Amerika Serikat
Kasus kekerasan seksual di berbagai kampus di AS mendasari terbentuknya Callisto. Platform ini dapat mendeteksi pelaku kekerasan seksual dengan teknologi AI yang menjalankan fungsi pencocokan. Penyintas akan melaporkan rincian pelaku ke dalam sistem, lalu penyintas lain juga memberi rincian serupa. Dengan cara ini, pelaku berantai dapat diidentifikasi terlepas dari afiliasi universitas.
Foto: Spencer Grant/imago images
Safecity di India
Dibentuk setelah kasus pemerkosaan Nirbhaya Gang 2012 di India, platform Safecity menjadi tempat berbagi cerita tentang pelecehan seksual atau pemerkosaan yang terjadi. Dengan menggunakan teknologi AI, secara visual akan terlihat lokasi berbahaya, dan rute aman. Lewat laporan berbasis crowdsoursing ini, otoritas keamanan dan pembuat kebijakan diharapkan dapat menciptakan ruang aman. (ts/ha)
Foto: safecity
8 foto1 | 8
Sikap Indonesia dan Malaysia terhadap larangan Grok
"Pemerintah melihat deepfake seksual tanpa persetujuan sebagai pelanggaran serius terhadap hak asasi manusia, martabat, dan keselamatan warga di ruang digital," ujar Menteri Komunikasi dan Digital Indonesia, Meutya Hafid, pada Sabtu lalu.
Iklan
Sementara itu, Komisi Komunikasi dan Multimedia Malaysia (MCMC) menyatakan pada hari Minggu bahwa mereka memblokir Grok karena bot ini berulang kali digunakan "untuk menghasilkan gambar yang cabul, seksual eksplisit, tidak senonoh, sangat ofensif, dan dimanipulasi tanpa persetujuan, termasuk konten yang melibatkan perempuan dan anak-anak."
MCMC menambahkan, pihaknya telah menghubungi Elon Musk melalui X dan xAI, perusahaan Akal Imitasi (AI) di balik Grok, untuk menuntut adanya langkah perlindungan yang efektif. Namun, menurut MCMC, tanggapan yang diberikan hanya mengarahkan pada mekanisme pelaporan oleh pengguna, dan dinilai "tidak cukup untuk mencegah bahaya atau memastikan kepatuhan hukum."
MCMC menegaskan, Grok akan tetap diblokir sampai ada perlindungan yang efektif diterapkan.
Apa itu Grok?
Grok merupakan salah satu peserta dalam perlombaan AI global, bersaing dengan produk dari Google dan Microsoft.
Alat AI seperti ini sering menimbulkan pertanyaan soal regulasi, karena kemampuan teknologi berkembang lebih cepat daripada aturan yang ada. Di beberapa kasus, regulasi bahkan sengaja dibatasi, seperti di Amerika Serikat (AS) pada masa pemerintahan Trump.
Keluhan soal fitur ini datang dari Uni Eropa, Inggris, India, dan Prancis. Sebagai respons, fitur pembuatan gambar dibatasi hanya untuk pengguna X yang membayar, namun kritik menyebut langkah ini belum cukup menyelesaikan masalah.
Artikel ini pertama kali terbit dalam bahasa Inggris
Diadaptasi oleh Rahka Susanto
Editor: Yuniman Farid