Pada 2 Oktober, Apple mengumumkan bahwa pihaknya akan menerapkan kontrol yang lebih ketat pada macOS terkait aplikasi yang meminta akses luas ke data di Mac. Keputusan ini menyusul keluhan tentang Muse milik Meta. Selain itu, hal ini menyoroti isu yang lebih besar mengenai tingkat akses yang mungkin dimiliki agen AI serta bagaimana akses tersebut dikomunikasikan dan diatur.

Apa yang Apple ubah tentang Full Disk Access

Dalam pembaruan untuk pengembangnya, Apple mengatakan bahwa Full Disk Access dapat memungkinkan beberapa file, email, pesan, dan riwayat penelusuran diakses, karena fitur ini mengabaikan lapisan pengaman yang biasanya melindungi data aplikasi.

“Ke depan, kami akan memperkenalkan kontrol tambahan untuk memastikan bahwa pengguna yang benar-benar ingin memberikan aplikasi tingkat akses yang luar biasa ini hanya dapat melakukannya dengan tindakan pengguna yang sangat eksplisit,” tulis Apple. Apple menambahkan bahwa “seiring agen AI menjadi semakin mampu dan otonom, risiko yang terkait dengan tingkat akses ini akan tumbuh secara substansial.”

Reuters menjelaskan mengapa masalah ini memiliki signifikansi yang lebih besar pada komputer Mac. iPhone dan iPad diprogram untuk menyediakan tingkat pemisahan antar aplikasi sebagai perlindungan default. Sebaliknya, komputer yang menjalankan macOS memungkinkan sebuah aplikasi yang memiliki fitur Full Disk Access untuk memiliki akses yang jauh lebih luas ke data pengguna.

Mengapa Muse memicu keluhan

Perubahan tersebut terjadi setelah keluhan dari kolumnis Inc, Jason Aten, yang mengatakan bahwa Muse membaca pesan pribadi di Mac-nya meskipun ia belum mengaktifkan Full Disk Access.

Meta membantah pernyataannya. Juru bicara Meta, Andy Stone, mengatakan akses ke Apple Messages bersifat opt-in. Pengguna harus terlebih dahulu mengaktifkan Full Disk Access dan konektor Messages, yang dapat mereka cabut kapan saja.

Ini bukan pertama kalinya Muse menghadapi kekhawatiran terkait keamanan. Menurut Cryptopolitan, Meta memperketat peringatan keamanannya setelah penemuan suatu kelas kelemahan SEV-2 oleh seorang peneliti yang berpotensi memungkinkan penyerang mengakses mesin virtual, email, dan file pengguna.

Mengapa agen membutuhkan kunci untuk semuanya

Ketegangan itu dibangun ke dalam AI agentic: semakin berguna sebuah agen, semakin besar akses yang mungkin dibutuhkannya.

Forum Ekonomi Dunia merekomendasikan Agent Capability and Authorization Profile untuk menentukan apa yang dapat diakses oleh agen dan apa yang diizinkan untuk dilakukannya. Gagasan ini adalah membuat batas-batas tersebut lebih mudah untuk dilacak dan ditegakkan.

PwC memiliki pandangan yang serupa. PwC berpendapat bahwa perusahaan harus mengelola agen AI seperti tenaga kerja digital, dengan kepemilikan yang jelas, akses berdasarkan tugas tertentu, serta batasan tentang apa yang bisa mereka lakukan sendiri.

OECD menyampaikan nada yang lebih hati-hati. OECD mengatakan AI agentic masih terus berkembang, dan masih diperlukan lebih banyak pekerjaan sebelum sistem ini dapat dianggap tepercaya.

Bagaimana WEF, PwC, dan OECD Mendekati Tata Kelola dan Kepercayaan Agen AI

Kepercayaan sedang berubah menjadi kendala komersial

Masalah-masalah tersebut sudah memengaruhi cara bisnis menerapkan kecerdasan buatan. Riset oleh FTI Consulting menunjukkan bahwa penerapan AI telah melambat, dihentikan, atau ditunda oleh 60% perusahaan besar karena isu terkait reputasi, regulasi, dan kepercayaan.

Laporan SAS juga menyoroti adanya kesenjangan kepercayaan. Menurut temuan tersebut, 76% peserta mempercayai AI generatif dibandingkan 66% peserta yang mempercayai AI agentic. Selain itu, perusahaan yang berinvestasi pada metode AI yang dapat dipercaya telah melihat kemungkinan 15 kali lebih besar untuk menerima ROI tinggi atau baik dari upaya mereka.

Kepercayaan itu dipertaruhkan banyak uang. Menurut prakiraan Gartner, investasi pada model dan platform AI akan meningkat dari $39,3 miliar pada 2025 menjadi $64,3 miliar pada 2026. Capgemini memperkirakan bahwa pada 2028, agen AI dapat menciptakan nilai hingga $450 miliar, meskipun hanya 2% perusahaan yang telah menerapkan sistem AI sepenuhnya.

Tata Kelola Agen AI dalam Angka: Belanja, Adopsi, dan Kepercayaan pada 2026

Hambatan sekarang, adopsi lebih luas nanti

Kontrol yang lebih ketat dari Apple mungkin menambah hambatan, tetapi izin yang lebih jelas dan dapat dicabut juga bisa membuat pengguna lebih nyaman memberikan agen akses yang berarti. Saat AI agentic berpindah dari eksperimen ke penggunaan sehari-hari, desain izin menjadi bagian dari produk itu sendiri—bukan sekadar isu kepatuhan.

Jika Anda sedang membaca ini, Anda sudah selangkah lebih maju. Tetap di sana bersama buletin kami.