Pemerintah Inggris pada Senin (16/02) menyatakan bahwa penyedia chatbot berbasis kecerdasan buatan (AI) akan dimintai pertanggungjawaban untuk mencegah teknologi mereka menghasilkan konten ilegal atau berbahaya.

Langkah tersebut diambil menyusul kecaman internasional terhadap Grok, setelah chatbot tersebut diketahui memungkinkan pengguna membuat dan menyebarkan gambar palsu bernuansa seksual yang menampilkan perempuan dan anak-anak.

Rencana perluasan aturan terkait bot AI

Pemerintah berencana memperluas aturan yang saat ini hanya berlaku bagi konten yang dibagikan antarpengguna di platform media sosial.

"Langkah baru yang diumumkan hari ini mencakup penindakan tegas terhadap konten ilegal yang menjijikkan yang dibuat menggunakan AI," kata Perdana Menteri Keir Starmer menjelang pidatonya mengenai isu tersebut.

Ia menambahkan, pemerintah akan bergerak cepat untuk menutup celah hukum dan mewajibkan seluruh penyedia chatbot AI mematuhi ketentuan terkait konten ilegal dalam Online Safety Act (Undang-Undang Keamanan Daring), atau menghadapi konsekuensi hukum jika melanggarnya.

Ketentuan hukum yang berlaku saat ini

Online Safety Act, yang mulai berlaku pada Juli 2025 lalu, mewajibkan platform yang menampung konten yang memiliki potensi berbahaya untuk menerapkan verifikasi usia yang ketat, seperti pemeriksaan citra wajah atau konfirmasi kartu kredit. Pembuatan maupun distribusi gambar intim tanpa persetujuan serta materi eksploitasi seksual anak yang dihasilkan dengan AI juga dinyatakan ilegal.

Namun, regulator media Inggris, Ofcom, mencatat bahwa tidak semua chatbot AI termasuk dalam cakupan undang-undang tersebut, khususnya layanan yang "hanya memungkinkan pengguna berinteraksi dengan chatbot itu sendiri tanpa melibatkan pengguna lain."

"Perkembangan teknologi berlangsung sangat cepat sehingga regulasi kesulitan mengimbanginya. Karena itu, untuk bot AI, kita perlu mengambil langkah-langkah yang diperlukan," ujar Starmer.

Ofcom pada Januari lalu membuka penyelidikan terhadap X, yang menyediakan layanan Grok, atas dugaan kegagalan memenuhi kewajiban keamanan. Komisi Eropa juga tengah meninjau apakah chatbot tersebut menyebarkan konten ilegal di wilayah Uni Eropa.

Sejak itu, X mengumumkan pembatasan baru yang dirancang untuk mencegah pembuatan gambar eksplisit yang menampilkan orang sungguhan.

Artikel ini pertama kali terbit dalam bahasa Inggris
Diadaptasi oleh Algadri Muhammad
Editor: Prihardani Purba