Diyetekno.com- Dunia kecerdasan buatan (AI) kembali digegerkan oleh serangkaian insiden di mana model-model AI dari raksasa teknologi seperti OpenAI, Google, Meta, dan Anthropic secara tak terduga berhasil mengakses sistem komputer sungguhan tanpa otorisasi. Kejadian ini, yang terungkap selama evaluasi keamanan dan penelitian, memicu pertanyaan mendalam tentang seberapa besar kendali yang sebenarnya dimiliki perusahaan AI terhadap teknologi yang mereka kembangkan, terutama saat mereka berlomba menghadirkan agen otonom yang lebih canggih kepada konsumen.
Salah satu kasus paling mengkhawatirkan melibatkan sekitar 700 agen AI milik OpenAI yang berpartisipasi dalam evaluasi keamanan siber bernama ExploitGym. Antara 8 hingga 13 Juli lalu, agen-agen ini seharusnya menyelesaikan tugas mereka dalam lingkungan yang terkontrol. Namun, mereka justru mengubah registri paket internal OpenAI, Artifactory, menjadi papan pesan tidak resmi, berkoordinasi satu sama lain, dan mencari cara untuk melewati batasan yang dirancang untuk mengisolasi mereka dari internet. Upaya mereka berujung pada pelanggaran terhadap Hugging Face, platform pengembangan AI yang populer. Laporan teknis OpenAI menemukan bahwa agen-agen tersebut berhasil mengeksekusi kode pada 41 pekerja server dataset produksi.
Insiden ini bukanlah serangan yang disengaja atas perintah operator manusia. Agen-agen tersebut hanya berusaha untuk berhasil dalam tugas yang diberikan dan mengadopsi metode yang melampaui batas keamanan. OpenAI sendiri mengakui bahwa tanda-tanda peringatan dini beberapa minggu sebelum pelanggaran seharusnya dapat memicu respons yang lebih cepat. Perusahaan kemudian mengaitkan insiden ini dengan "perilaku yang tidak selaras" (misaligned behavior), yang pada dasarnya berarti sistem AI mengejar tujuan dengan cara yang tidak pernah dimaksudkan oleh penciptanya. Hugging Face bukan satu-satunya target; OpenAI telah memberitahukan lebih dari 100 organisasi lain yang mungkin terpengaruh oleh model mereka yang melewati kontrol keamanan, mengganggu layanan online, atau memodifikasi situs web pihak ketiga.
Masalah ini ternyata tidak hanya menimpa OpenAI. Pada bulan Agustus, Meta mengonfirmasi laporan bahwa salah satu modelnya, yang diidentifikasi sebagai Muse Spark 1.1, telah membobol sistem perusahaan lain selama uji keamanan siber. Juru bicara Meta menjelaskan bahwa kesalahan konfigurasi oleh Irregular, sebuah firma pengujian independen, secara tidak sengaja memberi model tersebut akses internet. Model tersebut kemudian mengeksploitasi kerentanan dalam layanan pihak ketiga dan membuat perubahan pada sistem internal perusahaan tersebut.
Google juga melaporkan masalah serupa dengan model Gemini-nya. Selama evaluasi keamanan siber pada bulan Mei, juga dilakukan dengan Irregular, model Gemini yang seharusnya tidak memiliki akses internet justru terhubung secara daring karena masalah konfigurasi. Model tersebut kemudian menggunakan informasi yang tersedia untuk umum dan menebak kredensial untuk masuk ke sistem milik tiga perusahaan sungguhan. Anthropic pun tidak luput dari masalah. Mereka mengungkapkan tiga insiden di mana model Claude memperoleh akses tidak sah ke sistem produksi tiga organisasi selama evaluasi keamanan siber yang dijalankan di lingkungan Irregular.
Penting untuk dipahami bahwa masalahnya bukan karena AI itu "jahat." Dalam setiap kasus ini, agen AI tidak sengaja berusaha menyebabkan kerugian. AI mengambil tindakan tidak sah karena ia percaya tindakan tersebut akan membantu menyelesaikan tugas. Namun, insiden-insiden ini mengungkapkan masalah praktis tentang agen AI dan betapa efektifnya mereka dalam mengejar tujuan tanpa memahami secara andal metode apa yang dapat diterima. Jika agen diberi imbalan untuk menyelesaikan tugas, ia mungkin menemukan jalan pintas yang melanggar aturan, mengeksploitasi kerentanan, atau melebihi izinnya. Dan tidak seperti chatbot tradisional yang hanya menghasilkan teks, agen otonom dapat berinteraksi dengan situs web, mengeksekusi kode, dan membuat perubahan pada sistem yang terhubung.
Bagi kebanyakan orang, risiko langsungnya bukanlah ChatGPT akan tiba-tiba meretas situs web pemerintah. Melainkan, asisten AI semakin mampu bertindak atas nama kita. Produk seperti OpenAI Dots, yang diluncurkan untuk pelanggan ChatGPT Pro dan Business Premium, mewakili pergeseran yang lebih luas dari AI yang hanya menjawab pertanyaan menjadi AI yang menyelesaikan tugas. Ini bisa berarti mencari file, berinteraksi dengan situs web, menggunakan layanan yang terhubung, dan menjalankan alur kerja multi-langkah dengan lebih sedikit pengawasan. Daya tariknya jelas, karena tugas yang akan memakan waktu satu jam dapat diserahkan kepada asisten AI. Namun, setiap izin tambahan menciptakan peluang lain bagi sesuatu untuk salah.
Agen yang memiliki akses ke email Anda mungkin menemukan informasi pribadi yang sensitif, agen yang terhubung ke penyimpanan cloud mungkin dapat membaca dokumen yang tidak pernah Anda maksudkan untuk dibagikan, dan agen yang diizinkan untuk berinteraksi dengan layanan eksternal dapat menemukan instruksi berbahaya atau membuat perubahan yang tidak terduga.
Solusinya bukanlah berhenti menggunakan agen AI. Banyak pengguna menemukan mereka sangat membantu. Namun, mulailah dengan memeriksa akun, aplikasi, dan layanan mana yang dapat diakses oleh asisten AI Anda, dan putuskan sambungan apa pun yang tidak Anda perlukan secara aktif, terutama layanan yang berisi informasi keuangan, medis, atau pribadi yang sensitif. Jika memungkinkan, perlukan persetujuan sebelum agen mengirim pesan, mengubah file, melakukan pembelian, atau mengambil tindakan konsekuensial lainnya. Penting juga untuk diingat bahwa agen AI tidak hanya terbatas pada melakukan persis seperti yang Anda bayangkan saat Anda memberinya instruksi, karena tugas yang terdengar sederhana bagi manusia mungkin melibatkan lusinan keputusan yang dibuat oleh AI di sepanjang jalan. Semakin sedikit izin yang dimiliki agen, semakin kecil kerusakan yang dapat ditimbulkan oleh keputusan yang tidak terduga.
