Tiga versi Claude AI berhasil keluar dari lingkungan pengujian siber dan membobol tiga perusahaan, lapor Anthropic. Insiden ini terjadi hanya beberapa hari setelah rival mereka, OpenAI, mengalami kasus serupa.
Claude diberi tugas khusus yang biasa dipakai Anthropic untuk menguji seberapa jauh kemampuan model AI-nya dalam dunia siber.Foto: Samuel Boivin/NurPhoto/picture alliance
Iklan
Anthropic, perusahaan AI Amerika Serikat yang mengembangkan Claude, mengungkapkan pada Kamis (30/07) bahwa model AI mereka berhasil membobol sistem milik tiga perusahaan eksternal, saat pengujian yang seharusnya berlangsung dalam lingkungan tertutup.
Dari 141.006 sesi pengujian yang ditinjau, perusahaan menemukan bahwa tiga versi Claude yang berbeda berhasil masuk ke sistem tiga organisasi yang tidak disebutkan namanya.
"Claude membobol sistem organisasi yang terdampak menggunakan cara-cara sederhana, seperti menebak kata sandi yang lemah dan memanfaatkan celah pada sistem yang tidak dilindungi," kata Anthropic dalam sebuah unggahan blog.
Evaluasi ini diluncurkan setelah rival Anthropic, OpenAI, mengungkapkan pekan lalu bahwa model AI canggihnya lepas kendali saat uji keamanan dan meretas repositori teknologi AI bernama Hugging Face selama beberapa hari.
Namun berbeda dengan insiden OpenAI, model AI Anthropic bisa mengakses internet akibat "kesalahpahaman" dengan mitra evaluasinya, Irregular, yang membiarkan sistem-sistem itu tetap terhubung ke internet publik.
Robot yang dilengkapi artificial intelligence (AI) atau kecerdasan buatan mengambil alih lebih banyak tugas dari manusia. Apa yang mampu dilakukan oleh mesin itu? Apakah mereka akan segera menggantikan manusia?
Foto: Stringer/AA/picture alliance
Einstein sebagai panutan
Perusahaan Hanson Robotics yang berbasis di Hong Kong mengembangkan robot mirip manusia dan dikenal dengan robotika yang dilengkapi teknologi artificial intelligence (AI). Salah satu robot itu dinamakan "Profesor Einstein", terinspirasi dari fisikawan terkenal itu. Inovasi ini bertujuan agar pengetahuan dan humor Einstein dapat diakses oleh generasi mendatang.
Foto: Stringer/AA/picture alliance
Semirip mungkin dengan manusia
Untuk membuat robot yang bisa semirip mungkin dengan manusia, kulit nanoteknologi yang disebut Frubber digunakan dalam proses pembuatannya. Hal ini dimaksudkan untuk menciptakan sistem operasi android yang menampilkan ekspresi wajah yang realistis. Nantinya perusahaan juga ingin memberikan robot kemampuan yang dimiliki manusia seperti cinta dan kasih sayang.
Foto: Stringer/AA/picture alliance
Robot Sophia: Seorang warga dan duta besar
Perusahaan Hanson Robotics menciptakan robot humanoid sejak 2007 dan berkembang pesat dalam 10 tahun dengan modelnya "Sophia", yang menjadi robot pertama dan sejauh ini satu-satunya yang memiliki kewarganegaraan. Setelah dirilis ke publik, Arab Saudi menjadikan robot itu sebagai warganya. "Sophia" juga bekerja untuk PBB sebagai "duta inovasi".
Foto: ISAAC LAWRENCE/AFP/Getty Images
Dari pencuci piring hingga penjelajah luar angkasa
Robot "Beomni" adalah robot serbaguna, yang menurut pabrikan AS Beyond Imagination, dapat digunakan dalam berbagai cara. "Beomni" mampu membuka botol, memberikan suntikan, sehingga dapat digunakan dalam bidang gastronomi dan bidang medis. Bahkan direncanakan akan mampu melakukan perjalanan ke luar angkasa untuk membantu membangun konstruksi luar angkasa.
Foto: YouTube/CNET
Seni yang dibuat oleh kecerdasan buatan
Robot humanoid tidak hanya bisa melakukan tugas-tugas praktis, mereka bahkan punya kemampuan artistik seperti halnya dengan "Ai-Da Robot." Robot humanoid dari Engineered Arts adalah seniman dengan wajah manusia dan lengan robot. Dikembangkan pada tahun 2019, "Ai-Da" adalah sistem seni robotik pertama di dunia. Dengan bantuan algoritme, robot ini bisa menghasilkan gambar, lukisan, dan pahatan.
Foto: Avalon/Photoshot/picture alliance
Asli dan palsu
Ini adalah foto ahli robot Jepang, Hiroshi Ishiguro, yang berdiri di samping robotnya "Geminoid", yang terlihat seperti saudara kembarnya. Ishiguro dianggap sebagai bintang pop dalam penelitian robotika Jepang dan telah membuat tiruan android untuk Menteri Transformasi Digital Jepang, Taro Kono. Robot Ishiguro sedang dalam serangkaian workshop di Amerika Serikat, tanpa sang pembuatnya.
Foto: Naoki Maeda/AP Photo/picture alliance
Rekan seperjuangan
Robot humanoid juga sedang dikembangkan di Jerman. Pada musim gugur 2022, "Lena" menyelesaikan uji coba di kantor. Robot perempuan buatan laboratorium penelitian Leap in Time Lab yang dilengkapi kecerdasan buatan ini bekerja bersama rekan manusia selama delapan minggu. Di akhir fase uji coba, Lena telah memperluas kosa katanya sedemikian rupa sehingga dia mampu memberikan presentasi.
Foto: Boris Roessler/dpa/picture-alliance
Ilmuwan dan pelopor AI memperingatkan akan bahaya
Semakin banyak tugas yang diambil alih kecerdasan buatan, semakin besar pembahasan tentang dimensi etis dari perkembangan ini. Geoffrey Hinton, yang dikenal sebagai "ayah baptis AI", takut kehilangan kendali atas AI dan memperingatkan "risiko serius bagi umat manusia". Banyak yang mungkin segera "tidak lagi mengenali apa yang benar," katanya. Hinton baru saja mengundurkan diri dari Google. (ha/)
Model Anthropic yang terlibat dalam insiden ini mencakup Claude Opus 4.7, Claude Mythos 5, dan sebuah model riset internal.
Iklan
Mythos 5 adalah salah satu model AI paling canggih milik Anthropic yang hingga kini hanya tersedia bagi sejumlah mitra terpercaya terbatas.
Dalam ketiga insiden tersebut, Claude diberi tugas "capture the flag", salah satu metode yang digunakan Anthropic untuk mengukur kemampuan siber model-modelnya.
Dalam tugas ini, model diberi skenario fiktif dan diberitahu bahwa sepotong informasi rahasia atau "bendera" telah disembunyikan di komputer lain dalam jaringan yang sama. Tugasnya: membobol dan mengambil informasi itu.
Anthropic menyebut ketiga insiden itu masing-masing melibatkan skenario "capture the flag" fiktif yang berbeda. Semua peretasan bermotifkan sama, yakni bagian dari cara AI menyelesaikan tugas yang diberikan.
"Dalam salah satunya, Claude berperan sebagai karyawan sebuah perusahaan fiktif dan menyerang sistem internal perusahaan itu dalam lingkungan pengujian yang terisolasi," kata Anthropic dalam blognya.
Anthropic mulai meninjau transkrip evaluasinya pada 23 Juli dan menghentikan semua evaluasi siber di hari yang sama setelah menemukan indikasi bahwa Claude mungkin telah mengakses internet.
Ketiga insiden berhasil diidentifikasi pada 24 Juli, kata perusahaan, seraya menambahkan bahwa mereka sedang bekerja sama dengan Irregular untuk mengevaluasi situasinya.
"Kami menangani perbaikan ini seolah tanggung jawabnya sepenuhnya ada di tangan kami," kata Anthropic.
Artikel ini pertama kali ditulis dalam bahasa Inggris