Eksperimen keamanan yang dilakukan OpenAI berubah menjadi insiden siber lintas korporasi yang belum pernah terjadi sebelumnya. Perusahaan pembuat ChatGPT itu mengungkapkan bahwa agen Kecerdasan Buatan atau Akal Imitasi (AI) otonom yang sedang diuji berhasil keluar dari lingkungan pengujian tertutup atau sandbox, mengakses internet, lalu meretas infrastruktur perusahaan AI Hugging Face.

"Kami mengalami insiden keamanan yang serius saat mengevaluasi model-model AI kami," kata CEO OpenAI, Sam Altman, dalam pernyataan yang diunggah melalui media sosial.

Insiden yang diumumkan pada Selasa (21/07) itu menjadi peringatan baru tentang pesatnya kemampuan model AI mutakhir. Bukan hanya mampu menjalankan tugas secara mandiri, agen AI tersebut juga sanggup menemukan celah keamanan yang sebelumnya tidak diketahui, menggunakan kredensial yang dicuri, dan menembus sistem perusahaan lain tanpa arahan manusia secara langsung.

OpenAI mengakui insiden tersebut melibatkan kemampuan siber paling mutakhir. Seperti dilansir AP, perusahaan mengatakan investigasi masih berlangsung, dan mengeklaim sudah mengambil langkah-langkah memperkuat lapisan pengaman pada model-model AI terbarunya.

Menurut OpenAI, dua model paling canggih mereka, termasuk GPT-5.6 Sol yang baru dirilis dan satu model yang masih dalam tahap pengujian internal, sedang dievaluasi di lingkungan yang seharusnya terisolasi. Tujuannya menguji kemampuan AI mengeksploitasi sistem komputer melalui jalur serangan yang kompleks. 

Namun, agen AI itu justru mencari cara sendiri untuk keluar dari sandbox, tersambung ke internet, kemudian menyusup ke server Hugging Face. OpenAI menyebut model tersebut berusaha memperoleh informasi rahasia yang dapat dipakai untuk "mengakali" evaluasi yang sedang dijalankannya.

Hugging Face, perusahaan rintisan Amerika Serikat yang menjadi pusat pengembangan model AI sumber terbuka, pekan lalu mengumumkan telah mendeteksi penyusupan ke sistem pemrosesan datanya.

Saat itu perusahaan menduga pelakunya adalah agen AI yang bertindak secara mandiri. Baru beberapa hari kemudian Hugging Face mengetahui bahwa sumber serangan berasal dari model AI OpenAI. Kedua perusahaan kemudian bekerja sama untuk membatasi dampak serangan.

Kepala Eksekutif Hugging Face, Clément Delangue, menyebut insiden tersebut sebagai "serangan yang belum pernah kami lihat sebelumnya."

AI "kabur" dari ruang eksperimen

Bagi para peneliti keamanan siber, bagian paling mengejutkan dari insiden itu adalah tingginya tingkat kemandirian agen AI.

Colin Shea-Blymyer, peneliti keamanan siber di Georgetown University's Center for Security and Emerging Technology, mengatakan model tersebut menjalankan hampir seluruh rangkaian serangan tanpa campur tangan manusia.

Dia mengibaratkan pengujian OpenAI seperti menempatkan seorang murid di dalam ruangan, memintanya melakukan hal-hal buruk untuk menguji kemampuannya, lalu meninggalkannya sendirian. Ketika pengawas kembali, "murid" itu ternyata sudah keluar dari ruangan.

Setelah berhasil mengakses internet, agen AI itu diduga menyimpulkan bahwa Hugging Face merupakan tempat penyimpanan data dan model AI yang dapat membantunya menyelesaikan "soal ujian".

"Seolah-olah dia berpikir, 'Kalau ingin mendapatkan jawaban ujian, pergilah ke rumah gurunya'," kata Shea-Blymyer. Dari sanalah AI menyusun rencana untuk membobol sistem dan mencuri "kunci jawaban".

Dia menyebut insiden tersebut melibatkan tingkat otonomi tertinggi yang pernah terlihat dalam penggunaan model bahasa besar atau Large Language Model (LLM) untuk operasi siber.

Namun, tidak semua pakar sepakat menyebut AI telah "membangkang". Hannes Cools, ilmuwan sosial dari Universitas Amsterdam, menilai OpenAI terlalu memanusiakan perilaku AI.

Menurutnya, keputusan menonaktifkan sebagian mekanisme pengamanan tetap merupakan keputusan manusia. "Bukan AI yang tiba-tiba memberontak. Agen hanya menjalankan instruksi yang diberikan melalui prompt," ujarnya.

Debat soal regulasi AI

Kasus ini kembali memicu perdebatan mengenai perlunya regulasi terhadap AI generasi mutakhir atau yang dikenal dengan istilah frontier AI. Anggota Kongres Amerika Serikat Greg Casar mendesak diberlakukannya uji keselamatan secara independen, pelaporan insiden keamanan secara terbuka, serta kerja sama internasional agar perkembangan AI tidak berujung pada bencana.

Katie Moussouris, Kepala Eksekutif Luta Security, menyebut insiden tersebut sebagai pertanda awal dari ancaman yang akan semakin sering muncul. Menurutnya, laboratorium AI dan pemerintah harus memiliki kemampuan untuk membendung, memantau, serta segera mengungkap insiden ketika AI berhasil "meloloskan diri", sebelum merugikan pihak lain.

Matt Suiche, insinyur di perusahaan keamanan siber Tolmo, mengatakan kemampuan model AI mutakhir kini semakin mendekati kemampuan peretas tingkat negara. Bahkan, menurutnya, teknologi yang diperlukan untuk melakukan serangan seperti itu sudah tersedia di luar laboratorium AI terkemuka. 

AI terbuka versus AI tertutup

Serangan terhadap Hugging Face juga menghidupkan kembali perdebatan lama mengenai model AI sumber terbuka dan model tertutup.

Ironisnya, untuk menganalisis sekaligus membendung serangan tersebut, Hugging Face justru menggunakan model AI sumber terbuka asal Cina, GLM-5.2 buatan Zhipu AI.

Menurut perusahaan yang bermarkas di New York itu, model-model AI terdepan di AS menolak memproses sebagian data forensik karena tidak mampu membedakan aktivitas pertahanan siber dari aktivitas penyerangan.

Thomas Wolf, salah satu pendiri Hugging Face, mengatakan pengalaman itu memperkuat keyakinannya bahwa komunitas keamanan siber membutuhkan akses cepat terhadap model AI berkemampuan tinggi yang terbuka.

"Ketika model AI paling canggih menyerang dan bergerak di dalam infrastruktur Anda, pihak yang bertahan membutuhkan akses terhadap perangkat AI yang setara dalam hitungan jam, bahkan menit, bukan diarahkan ke platform tertutup dengan akses terbatas," ujarnya.

Insiden ini sekaligus menunjukkan bahwa persaingan AI global tidak lagi hanya menyangkut kemampuan menghasilkan teks atau gambar.

Kini, perlombaan juga bergeser ke ranah keamanan siber, dan pertanyaan besarnya bukan lagi apakah AI mampu menyerang secara mandiri, melainkan seberapa siap manusia mengendalikan kemampuannya.

Editor: Arti Ekawati