Diyetekno.com- Sebuah laporan mengejutkan baru-baru ini mengungkap bahwa asisten kecerdasan buatan (AI) Meta, Muse, memiliki kemampuan untuk mengumpulkan dan menyimpan informasi rinci tentang individu, bahkan mereka yang belum pernah berinteraksi langsung dengan platform tersebut. Temuan ini menimbulkan pertanyaan serius mengenai privasi data di era teknologi AI yang semakin canggih.
Menurut laporan yang dipublikasikan oleh Wired, instruksi internal yang berhasil diekstrak dari agen AI tersebut menunjukkan bahwa Muse dirancang untuk mengorganisir informasi tidak hanya tentang penggunanya, tetapi juga tentang orang-orang di sekitar mereka. Potensi ini bisa berarti Muse membangun "halaman" khusus untuk setiap orang dalam kehidupan pengguna, mulai dari pasangan, teman, rekan kerja, hingga bahkan orang-orang yang mereka ikuti di media sosial.
Karan Joshi, seorang peneliti independen di bidang keamanan dan keselamatan AI, berhasil mengekstrak instruksi internal dan perintah sistem Muse. Ia melakukannya dengan meminta agen AI tersebut untuk menyalin dan membagikan file perangkat lunaknya sendiri melalui antarmuka obrolan normal. Temuan Joshi, yang kemudian dibagikan kepada WIRED, mencakup instruksi untuk proses yang berjalan setiap jam, yang dapat membuat "halaman untuk setiap orang dalam kehidupan pengguna."
Meta tampaknya benar-benar mengacu pada hampir semua orang. Instruksi yang ditemukan oleh para peneliti menyebutkan anggota keluarga, pasangan, teman, kolega, kolaborator, dan bahkan orang yang Anda ikuti. Halaman-halaman ini mungkin awalnya kosong, namun dirancang untuk terisi seiring waktu. Menurut laporan tersebut, Muse dapat mengorganisir apa yang diketahuinya ke dalam beberapa bagian, mencakup fakta, riwayat, jenis hubungan, hal-hal yang memiliki kesamaan, topik yang belum terselesaikan, dan bahkan cara-cara untuk memperkuat hubungan.
Ini bisa berarti informasi yang relatif biasa seperti tempat tinggal seseorang atau pekerjaan mereka. Namun, data yang terkumpul juga bisa menjadi jauh lebih personal. "Mereka mencoba mengenal Anda seperti seorang teman, yang jujur saja cukup menyeramkan," kata Joshi kepada WIRED, menyoroti potensi intrusi privasi yang signifikan. Setidaknya ada satu batasan penting: instruksi Muse mengatakan untuk menggunakan bukti yang tersedia daripada mengisi kekosongan, dengan detail yang diarang dianggap lebih buruk daripada membiarkan sebagian halaman seseorang kosong.
Bagian yang paling menarik perhatian adalah fakta bahwa Anda tidak harus menjadi pengguna Muse untuk data Anda berakhir di dalamnya. Untuk memahami kehidupan penggunanya, Muse juga perlu memahami orang-orang di dalamnya. Ini berarti informasi tentang Anda berpotensi ada di dalam Muse orang lain, hanya karena Anda adalah bagian dari kehidupan orang tersebut.
Penting untuk ditegaskan, ini bukan bukti bahwa Meta secara diam-diam membuat satu profil Muse raksasa untuk setiap orang yang tidak menggunakan layanannya. Setiap pengguna Muse memiliki mesin virtual khusus tempat data dan konteks mereka disimpan, dan Meta menyatakan bahwa pengguna dan agen lain tidak dapat mengaksesnya. Namun, hal ini menciptakan situasi privasi yang aneh. Karena Anda mungkin tidak pernah mengunduh Muse, menghubungkan akun, atau memberi tahu agen apa pun tentang diri Anda, seseorang yang Anda kenal masih dapat memberi tahu Muse mereka tentang Anda, dan detail tersebut dapat menjadi bagian dari konteks yang digunakan agen untuk memahami hubungan orang tersebut. Ini adalah jenis memori AI yang sangat berbeda dari yang digunakan oleh ChatGPT dan Claude.
Menurut laporan tersebut, Meta ingin Muse membantu pengguna mencapai tujuan mereka. Perusahaan memberikan contoh Muse yang mengingat bahwa seseorang yang mengirimi Anda faktur sebenarnya adalah tukang ledeng yang sebelumnya mengerjakan kamar mandi Anda, atau mengingat bunga apa yang disukai pasangan Anda. Namun, justru jenis memori inilah yang membuat masalah ini menjadi lebih rumit. Agen AI personal yang tidak mengingat siapa pun dalam hidup Anda tidak akan menjadi asisten personal yang efektif. Jika Anda memberi tahu Muse bahwa suami Anda memiliki janji pada hari Kamis atau salah satu anak Anda membutuhkan sesuatu untuk sekolah besok, Anda tentu ingin AI itu mengingat informasi tersebut saat relevan.
Namun, kegunaan dan privasi saling bertentangan di sini. Setiap informasi kontekstual tambahan dapat membuat agen lebih membantu, sekaligus memperluas apa yang diketahuinya tentang Anda dan semua orang di sekitar Anda.
Penulis artikel ini melakukan eksperimen dengan bertanya langsung kepada Muse tentang dirinya dan keluarganya. Ternyata, Muse tidak tahu banyak di luar apa yang secara pribadi telah diberitahukan kepadanya. AI itu tahu bahwa penulis memiliki tiga anak dan mereka adalah "keluarga sepak bola." Muse juga mengetahui pekerjaan dan tempat tinggal penulis. Namun, ketika melihat orang-orang dalam hidup penulis (di luar rumah tangga), informasinya menjadi semakin tipis. Tidak ada nama yang melekat pada siapa pun. Ini sangat sesuai dengan instruksi Muse sendiri, yang mengatakan bahwa halaman seseorang mungkin dimulai dengan sedikit informasi dan menjadi lebih detail seiring waktu. Penulis juga cukup konservatif tentang apa yang telah dihubungkan ke Muse. Seseorang yang memberikan agen AI akses ke lebih banyak kehidupan digital mereka berpotensi memberikan lebih banyak informasi untuk dikerjakan.
Eksperimen kecil ini menunjukkan apa yang dapat Muse ceritakan setelah penggunaan yang relatif terbatas. Instruksi internal menunjukkan apa yang dirancang untuk dilakukan seiring pertumbuhan hubungan tersebut.
Masalah yang lebih besar dengan AI personal adalah bahwa asisten AI personal dirancang untuk memahami hubungan Anda, mengingat apa yang terjadi dalam hidup Anda, dan akhirnya bertindak berdasarkan informasi tersebut. Seperti yang dikatakan oleh profesor asosiasi Oxford Institute for Ethics in AI, Carissa Véliz, kekhawatiran bukan hanya informasi yang secara eksplisit kita berikan kepada sistem ini. Ini juga tentang apa yang dapat mereka simpulkan dan apa yang dapat mereka kumpulkan dari berbagai sumber.
Meta menyatakan bahwa pengguna Muse dapat menghapus memori atau memutuskan layanan eksternal, dan agen tersebut menyertakan log audit di mana pengguna dapat melihat aktivitas dan rencana masa depannya. Kontrol-kontrol ini menjadi semakin penting saat Anda menghubungkan lebih banyak aspek kehidupan Anda.
