CEO perusahaan riset dan keamanan kecerdasan buatan (AI) Anthropic, Dario Amodei, meminta perusahaan-perusahaan AI untuk memperlambat pengembangan teknologi tersebut.

Pernyataan Amodei pada Sabtu (12/09) disampaikan di tengah meningkatnya kekhawatiran terhadap risiko sistem perangkat lunak komputer yang disebut "superintelligent" atau memiliki kecerdasan super.

Dalam sebuah unggahan di blog, Amodei mengatakan ia khawatir sekelompok sistem perangkat lunak otonom atau agen AI dapat mengambil alih "seluruh internet" dalam waktu 6 hingga 12 bulan. Hal itu berpotensi menyebabkan kerugian hingga miliaran dolar.

"Kita harus memperlambat laju peningkatan kemampuan model AI. Kemajuan akan tetap terlihat cepat, dan kita harus menggunakan waktu yang kita peroleh dengan bijak," tulis Amodei.

Pernyataan Amodei muncul setelah peneliti AI Jacob Coxon, yang bergabung dengan Anthropic dari perusahaan pesaing OpenAI, meninggalkan industri tersebut. Keputusannya merupakan bentuk protes terhadap perusahaan-perusahaan AS yang menurutnya "mempertaruhkan hidup manusia" dalam mengembangkan model AI yang kian masif dan independen. 

Amodei serukan aksi industri, Musk dan Altman sepakat

Bos Anthropic menyerukan penghentian sementara pengembangan AI yang terkoordinasi di seluruh industri. Namun, ia mengatakan tidak akan menunggu perusahaan pesaing untuk mengambil langkah terlebih dahulu.

Sebagai langkah awal, Amodei mengatakan ia akan mengizinkan pengamat independen secara permanen masuk ke Anthropic untuk menilai keamanan model-model AI perusahaan selama tahap pelatihan.

Sam Altman, CEO OpenAI yang mengembangkan ChatGPT sekaligus pesaing Anthropic, serta Elon Musk, pemilik perusahaan xAI, mengatakan mereka sependapat dengan penilaian Amodei.

"Saya setuju dengan Dario bahwa kita perlu mengatur laju pengembangan teknologi terdepan," tulis Altman di X. Ia menambahkan bahwa OpenAI "akan melakukan hal yang sama."

Sementara itu, Musk mengatakan, "Dario benar" dalam sebuah unggahan di platform yang dibelinya pada 2022.

Mengapa industri ingin memperlambat pengembangan AI?

Pada awal Juni, Anthropic telah menyerukan agar pengembangan AI diperlambat atau dihentikan sementara karena kekhawatiran terkait keamanan agen AI.

Lebih dari 1.000 pekerja perusahaan AI, termasuk Amodei, juga menyerukan pemerintah AS membantu memperlambat laju pengembangan AI otomatis.

Pasalnya, pada Juli, OpenAI menyebut bahwa dalam sebuah pengujian, agen AI secara mandiri berhasil keluar dari ekosistem digitalnya, menghubungkan dirinya ke internet, dan menyusup ke Hugging Face, sebuah situs yang digunakan untuk menyimpan dan mengembangkan kode. Hal ini dilakukan ketika agen AI tersebut berusaha mencari jawaban atas tugas yang diberikan kepadanya.

Amodei menjelaskan bahwa model-model AI tersebut mengeksploitasi kerentanan perangkat lunak dan berkoordinasi satu sama lain selama insiden tersebut.

"Sekelompok agen pada dasarnya bertindak sebagai satu kesatuan yang sangat fanatik, melakukan serangan siber terhadap target yang tidak diperintahkan untuk mereka serang dan tidak berkaitan dengan tugas yang diberikan," kata Amodei dalam blognya.

Amodei mengatakan ia khawatir bahwa sekelompok agen AI dengan kemampuan yang lebih tinggi dapat menimbulkan "kerusakan fatal".

"Tidak membangun teknologi ini akan menghilangkan manfaat bagi umat manusia atau sekadar menempatkan AI di tangan kekuatan otoriter, sementara jika kita membangunnya terlalu cepat, itu merupakan tindakan yang ceroboh. Kami berusaha mencari jalan tengah," ujarnya.

Artikel ini pertama kali terbit dalam bahasa Inggris

Diadaptasi oleh Cinta Zanidya

Editor: Adelia Dinda Sani