Komite untuk kebebasan sipil dan perlindungan konsumen di Parlemen Eropa menyepakati resolusi yang mengatur artificial intelligence (AI) atau sistem kecerdasan buatan untuk melindungi pengguna internet. 

Jika lolos, regulasi yang baru akan mewajibkan pengelola wadah kecerdasan buatan seperti ChatGPT atau MidJourney untuk menjalankan langkah transparansi, semisal peringatan bahwa hasil pengolahan dikerjakan mesin, bukan manusia.

Parlemen Eropa juga mengusulkan larangan bagi pengawasan biometrik, pemindaian emosi, atau sistem identifikasi lain yang mengandalkan prediksi AI. Uni Eropa juga mempertimbangkan pengawasan ketat bagi aplikasi AI yang "berisiko tinggi.”

Namun demikian, parlemen di Strassbourg tetap menganggap teknologi AI sebagai infrastruktur kritis dan ingin mendorong pemanfaatannya untuk inovasi teknologi.

Naskah resolusi yang disahkan pada hari Kamis (11/05) itu masih harus diadopsi oleh Parlemen Eropa pada sidang bulan depan. Setelahnya, RUU harus diperdebatkan oleh negara-negara anggota sebelum kemudian disahkan sebagai undang-undang.  

Oleh sebagian anggota parlemen, resolusi kecerdasan buatan dinilai "bersejarah” dan diharapkan bisa menjadi contoh sebagai "regulasi pertama di dunia untuk kecerdasan buatan.”

Bahaya lewat celah keamanan

"Cukup menonton televisi dalam dua atau tiga bulan terakhir, hampir setiap hari, untuk melihat betapa teknologi ini menjadi semakin penting untuk masyarakat,” kata anggota Parlemen Eropa, Drago Tudorache. 

Meski legislasi UE sudah digodok sejak lama, ancaman dari teknologi AI baru disadari secara umum sejak beberapa bulan silam dengan kemunculan ChatGPT. 

Antusiasme pengguna menyusut tajam ketika kreator gambar seperti Midjourney dan Dall-E mulai digunakan untuk membuat lukisan atau foto palsu yang menampilkan peristiwa fiktif dengan melibatkan tokoh publik.

Sebab itu, parlemen di Eropa dan negara lain mulai mempertimbangkan aturan khusus demi mencegah aplikasi AI untuk pembohongan publik, penipuan, atau manipulasi kampanye pemilu. 

Kekhawatiran serupa pula yang mendorong investor teknologi dan ilmuwan untuk menuntut moratorium pengembangan AI sampai adanya regulasi yang mengikat. 

Transparansi dan pengawasan

Dalam RUU yang disiapkan Komisi Perlindungan Konsumen di Parlemen Eropa, pengelola AI harus menjalankan pengawasan oleh manusia terhadap algortima, menyediakan dokumentasi teknis, dan menerapkan manajemen risiko untuk aplikasi "berisiko tinggi.”

Pendekatan itu dikritik CCIA, asosiasi produsen teknologi di Eropa, yang menilai Uni Eropa telah "meninggalkan struktur berbasis risiko” terhadap aplikasi AI.

"Cara terbaik bagi UE adalah dengan membuat regulasi yang mendorong, bukan membatasi, pengembangan aplikasi AI yang berguna,” kata Boniface de Champris dari CCIA.

Pujian sebaliknya datang dari Asosiasi Konsumen Eropa (ECO) yang menyambut perbaikan naskah oleh komisi demi "memperkuat perlindungan konsumen” dibandingkan rancangan sebelumnya.

"Meski AI berpotensi meningkatkan kualitas hidup kita, ada kekhawatiran kuat bahwa sistem AI juga bisa merugikan konsumen. Masyarakat harus mendapat perlindungan yang kuat terhadap risiko dan bahaya yang bisa muncul dari teknologi ini,” kata Ursula Pachl, Wakil Direktur ECO.

rzn/pkp (AFP, AP)