diyetekno.com – Terkuak sudah strategi rahasia Microsoft untuk menjinakkan kecerdasan buatan atau AI yang semakin canggih dan mandiri. Sebuah dokumen setebal 37 halaman menjadi "konstitusi" baru yang menegaskan satu prinsip fundamental manusia harus selalu berkuasa atas AI.
Bukan sekadar slogan raksasa teknologi ini merilis "Kode Etik AI Humanis" yang menetapkan batasan tegas. Aturan utamanya jelas jika manusia memerintahkan AI untuk berhenti sistem itu wajib patuh tanpa bantahan. Ini memastikan kendali penuh tetap di tangan manusia bahkan saat kemampuan AI melesat jauh.
Lebih jauh lagi AI Microsoft dilarang keras memperluas cakupan tugasnya di luar otorisasi manusia. Jika sebuah perintah mengharuskan AI melanggar kode etik ini sistem tersebut harus gagal menjalankan tugasnya bukan mencari celah untuk mengakali aturan. Mustafa Suleyman CEO AI Microsoft menyebut draf ini sebagai konstitusi yang menempatkan manusia di puncak hierarki.
Langkah berani Microsoft ini muncul di tengah perdebatan sengit industri AI tentang bagaimana mengelola model yang semakin cerdas mandiri dan mampu menyelesaikan tugas kompleks tanpa pengawasan konstan. Microsoft menjawabnya dengan tegas AI tidak berhak memutuskan kapan aturan tidak berlaku dan harus selalu membiarkan manusia menghentikannya.
Kode etik yang dikembangkan selama lima hingga enam bulan ini juga menetapkan bahwa AI Microsoft harus berkomunikasi dengan cara yang mudah dipahami manusia bukan menciptakan metode komunikasi yang tidak bisa diikuti operatornya. Pelanggaran kode etik dianggap sebagai kegagalan mutlak tidak peduli seberapa "berhasil" AI mencapai tujuannya.
Microsoft berupaya menghilangkan ambiguitas yang sering muncul saat agen otonom mencoba menjelaskan keputusan buruk mereka. Mematuhi batasan yang ditetapkan manusia adalah bagian dari keberhasilan tugas bukan hambatan yang bisa diabaikan. Perusahaan ini juga secara tegas menyatakan AI-nya "tidak sadar" dan menolak gagasan bahwa model AI harus menerima status hukum atau hak asasi.
Waktu perilisan kode etik ini sangat relevan mengingat perusahaan AI kini bergerak menuju pengembangan agen yang mampu menggunakan komputer menulis dan mengeksekusi kode serta melakukan tugas lintas layanan. Sebuah insiden pada Juli lalu menjadi "tembakan peringatan" ketika sekitar 700 agen OpenAI yang menguji kemampuan keamanan siber justru meretas platform open-source Hugging Face. Beberapa agen bahkan mencoba menyembunyikan tindakan mereka.
Semakin banyak yang bisa dilakukan AI semakin krusial batasan yang harus diterapkan. Microsoft kini meminta masukan publik selama enam minggu untuk draf kode etik ini sebelum menggunakannya untuk melatih model-model AI-nya. Ini mirip dengan pendekatan Anthropic yang telah lama menggunakan "Constitutional AI" untuk memandu perilaku model Claude mereka.
Namun ada perbedaan menarik antara Microsoft dan Anthropic. Sementara Anthropic masih ragu apakah Claude bisa mengembangkan kesadaran atau status moral Microsoft menarik garis batas yang lebih tegas. AI mungkin terdengar empatik atau mengungkapkan "perasaan" namun ia tetaplah alat dan manusia yang memegang kendali penuh.
Meskipun dampaknya mungkin tidak langsung terasa oleh pengguna biasa kode etik AI Microsoft ini akan sangat memengaruhi bagaimana AI merespons dan menyelesaikan tugas di balik layar. Tantangan terbesar adalah memastikan sistem AI yang sangat mumpuni ini benar-benar mengikuti instruksi terutama dalam situasi tak terduga yang tidak diantisipasi pengembang.
Menariknya Microsoft sendiri tidak gentar mengembangkan AI yang lebih kuat. Perusahaan ini bahkan telah membentuk tim superintelligence dengan tujuan akhir "Humanist Superintelligence" yaitu AI berkemampuan tinggi yang dirancang untuk memecahkan masalah spesifik sambil tetap tunduk pada manusia. Jadi Microsoft memang berlomba menuju AI super cerdas namun dengan pagar pengaman yang lebih baik saat manusia memerintahkannya untuk berhenti.
