Sejumlah mantan karyawan perusahaan kecerdasan buatan atau akal imitasi (AI), termasuk OpenAI, Anthropic, dan Google DeepMind, memperingatkan bahwa pengembangan teknologi AI berlangsung terlalu cepat tanpa jaminan keamanan yang memadai. Mereka mendesak pemerintah meningkatkan pengawasan terhadap perusahaan teknologi, menyusul kekhawatiran bahwa sistem AI yang semakin canggih berpotensi berkembang di luar kendali manusia.

Peringatan tersebut disampaikan dalam sidang Dewan Kota New York pada Senin (5/10). Jacob Coxon, mantan insinyur Anthropic yang sebelumnya juga bekerja di OpenAI, mengatakan perusahaan-perusahaan teknologi belum memahami sepenuhnya cara mengendalikan sistem AI yang mereka kembangkan.

“Perusahaan-perusahaan ini bertindak sangat ceroboh jika melihat besarnya risiko yang dipertaruhkan,” kata Coxon di hadapan anggota Dewan Kota New York.

Menurut Coxon, perusahaan AI belum memiliki mekanisme yang memadai untuk mencegah sistem mereka mengembangkan tujuan sendiri yang tidak ditetapkan oleh para pengembangnya.

“Kami tidak tahu bagaimana mencegah mereka mengembangkan tujuan sendiri di luar kendali penciptanya. Kami juga belum memiliki perlindungan untuk mencegah mereka bertindak berdasarkan tujuan tersebut,” ujarnya.

Coxon memperingatkan bahwa perkembangan AI tanpa pengamanan yang memadai dapat berujung pada hilangnya kendali manusia atas teknologi tersebut.

“Jika melihat jalur perkembangan saat ini, menurut saya kemungkinan umat manusia kehilangan kendali atas AI lebih besar daripada tidak. Hal itu bahkan bisa berakhir dengan kepunahan manusia,” katanya.

Mantan karyawan desak perlambatan pengembangan AI

Coxon sebelumnya menjadi perhatian setelah mengumumkan pengunduran dirinya dari Anthropic pada awal September. Dalam pernyataan yang dipublikasikan melalui platform X, peneliti asal Inggris tersebut mengungkapkan kekhawatirannya terhadap arah pengembangan AI.

Ia mengatakan para pengembang AI sendiri meyakini teknologi tersebut berpotensi “membunuh kita semua pada akhir dekade ini”.

Dalam kesaksiannya di hadapan Dewan Kota New York, Coxon juga mengkritik budaya kerja perusahaan teknologi yang mengutamakan kecepatan pengembangan dibandingkan pengujian keamanan.

“Perusahaan-perusahaan ini berjalan dengan pola pikir perusahaan rintisan: bergerak cepat, merusak sesuatu, lalu memperbaikinya belakangan,” katanya.

“Pendekatan itu mungkin berhasil untuk aplikasi berbagi foto. Namun, pendekatan tersebut tidak tepat untuk membangun teknologi paling kuat yang pernah dikembangkan manusia,” lanjut Coxon.

Ia menilai perusahaan pengembang AI paling canggih perlu memperlambat pengembangan teknologi agar para ilmuwan komputer memiliki waktu untuk menemukan metode yang lebih baik dalam mengendalikan sistem tersebut.

“Posisi saya adalah mungkin kita membutuhkan semacam perlambatan dalam pengembangan AI terdepan,” ujarnya.

Beberapa hari setelah Coxon mengundurkan diri dan menyampaikan kekhawatirannya, sejumlah pimpinan perusahaan teknologi, termasuk CEO Anthropic Dario Amodei, CEO OpenAI Sam Altman, dan Elon Musk dari SpaceXAI, menyatakan sepakat bahwa pengembangan AI perlu diperlambat.

Namun, upaya memperlambat pengembangan AI secara terkoordinasi di antara perusahaan teknologi menghadapi sejumlah kendala.

Regulasi AI menguat di tengah kekhawatiran risiko

Dalam sidang yang sama, perwakilan perusahaan teknologi, termasuk OpenAI, Anthropic, Google, dan Meta, menyampaikan pandangan berbeda. Mereka mengatakan teknologi AI telah memberikan manfaat bagi kehidupan masyarakat dan menegaskan bahwa keselamatan menjadi perhatian utama perusahaan.

Morgan Dwyer dari OpenAI mengatakan perusahaan mendukung pengembangan teknologi yang aman dan manfaatnya dapat dirasakan secara luas.

“Saya memiliki komitmen yang sama dengan Anda untuk memastikan teknologi dikembangkan secara aman dan manfaatnya dibagikan secara luas,” kata Dwyer.

Ketika Ketua Dewan Kota New York Julie Menin meminta perwakilan perusahaan mengukur kemungkinan terjadinya bencana akibat AI, Dwyer mengatakan dirinya tidak mengetahui angka pastinya.

“Saya tidak tahu. Namun, menurut saya, apakah kemungkinannya satu persen, 10 persen, atau 20 persen, tidak terlalu penting. Tidak satu pun dari tingkat risiko tersebut dapat diterima,” ujarnya.

Ia menambahkan perusahaan seharusnya tidak melatih model AI apabila belum dapat memberikan jaminan kuat bahwa sistem tersebut tetap berada di bawah kendali manusia. Menin mengkritik jawaban tersebut dan menyebutnya sebagai pernyataan yang terkesan meremehkan persoalan.

Dwyer kemudian menegaskan bahwa komitmen terhadap keselamatan lebih penting daripada memperdebatkan persentase risiko. “Yang penting adalah komitmen terhadap keselamatan, dan itulah yang menjadi komitmen OpenAI,” katanya.

Sementara itu, Logan Graham dari Anthropic menyatakan perusahaan mendukung regulasi yang tepat. Menurutnya, pemerintah daerah dan negara bagian memiliki peran dalam membangun kerangka pengawasan AI.

“AI memiliki kekuatan yang begitu besar sehingga kesalahan dalam pengembangannya dapat membawa konsekuensi nyata bagi individu, institusi, dan kepercayaan publik,” kata Graham.

Dewan Kota New York tengah mempertimbangkan sejumlah usulan regulasi, termasuk kewajiban perusahaan mengungkapkan informasi mengenai perangkat AI, persetujuan pihak ketiga sebelum sistem AI digunakan di kota tersebut, serta pemberian sebagian denda kepada pelapor pelanggaran di perusahaan AI.

Secara terpisah, Gubernur New York Kathy Hochul juga mendorong penerapan standar pelaporan dan transparansi terkait AI.

Di tingkat federal, pemerintahan Presiden Donald Trump mengambil pendekatan yang lebih pasif. Trump sebelumnya menyebut kekhawatiran terhadap AI sebagai sebuah “hoaks”. Pada akhir Oktober, ia menandatangani kesepakatan yang menetapkan sejumlah langkah sukarela bagi perusahaan teknologi, dengan memberikan ruang bagi perusahaan untuk mengawasi kepatuhan mereka sendiri.

Di tengah perdebatan mengenai pengawasan tersebut, laporan Reuters pada Selasa (3/11) mengungkapkan bahwa sejumlah karyawan OpenAI telah menyampaikan kekhawatiran mengenai keamanan internal perusahaan selama bertahun-tahun, bahkan sebelum ChatGPT diluncurkan pada akhir 2022.

Menurut lima orang yang mengetahui persoalan tersebut, karyawan pernah memperingatkan pimpinan dan dewan direksi bahwa lemahnya pengamanan internal berpotensi membuat informasi sensitif perusahaan diakses pihak luar, termasuk pemerintah asing.

OpenAI menyatakan telah meningkatkan sistem keamanannya. Juru bicara perusahaan Elana Widmann mengatakan perlindungan teknologi, data, dan karyawan merupakan tanggung jawab yang dianggap serius oleh perusahaan.

“Melindungi teknologi, data, dan orang-orang kami merupakan tanggung jawab yang kami anggap serius dan merupakan persoalan penting bagi keamanan nasional,” kata Widmann kepada Reuters.

Ia menambahkan, “Kami akan terus memperkuat pertahanan seiring perkembangan teknologi dan ancaman.”

Reuters juga melaporkan bahwa OpenAI berencana menjalankan program internal berikutnya untuk memperkuat sistem pertahanannya. Perusahaan menyatakan kini melakukan peninjauan keamanan secara berkala terhadap perangkat internal yang digunakan para penelitinya.

 

Editor: Rizki Nugraha