Apple memperlambat Agen AI

Isi video ini

• Mengapa satu izin Mac tiba-tiba menjadi risiko yang lebih besar?
• Apa yang sebenarnya dibuka oleh Akses Disk Penuh?
• Mengapa agen otonom mengubah taruhannya?
• Apa yang dapat dibatasi pengembang sebelum Apple merilisnya?
• Apa sebenarnya yang dilakukan editor pass baru Apple?

Transkrip terjemahan

Diterjemahkan dari narasi asli bahasa Inggris. Audio dan teks tersedia yang dikontrol oleh YouTube.

Mengapa satu izin Mac tiba-tiba menjadi risiko yang lebih besar?

0:00 Anda mungkin berpikir mengklik Izinkan menyelesaikan apa yang bisa dilihat aplikasi. Apple mengatakan agen AI yang semakin otonom membuat Akses Disk Penuh secara substansial lebih berisiko, dan mereka menambahkan kontrol. Dalam video ini, apa yang bisa dibaca agen? Apa yang diubah Apple? Siapa lagi yang terekspos? Privasi orang lain dipertaruhkan di Mac Anda. Kita akan kembali ke mereka sebelum putusan.

0:18 Ini hari Sabtu, tiga Oktober, dan ini adalah The Daily Diff. Pada hari Jumat, Apple memperingatkan pengembang tentang akses disk penuh dan memperkenalkan editor pass Wallet. Sementara itu, seorang hakim federal menunda aturan lokasi VPN Utah. Reporter TechCrunch Sarah Perez menyebut pengumuman Apple sebagai tembakan yang dilepaskan. Target tetap tidak disebutkan dalam postingan Apple, yang merupakan cara yang sangat korporat untuk memulai perdebatan. Dokumentasi Apple mencakup data Mail dan Pesan,

Apa yang sebenarnya dibuka oleh Akses Disk Penuh?

0:42 ditambah data Safari. Ini juga mencakup cadangan Time Machine, sehingga aplikasi cadangan Anda dapat berfungsi. Apple mengatakan ini sebagian besar mengabaikan kontrol privasi lainnya. Anda memberikannya melalui Pengaturan Sistem, dan izin tersebut sudah ada. Pengumuman tersebut menjanjikan kontrol tambahan seputar pemberian tersebut. Di X, javi menjawab, saya harap Anda suka permintaan izin. Itulah ketegangan pengembang dalam enam kata. Otomatisasi terus meminta kita untuk menyetujui otomatisasi secara manual.

1:06 Namun, pertahankan izinnya tetap jelas. Aksesibilitas dan Otomatisasi memiliki entri terpisah dalam panduan Apple. Membaca data yang dilindungi dan mengontrol aplikasi lain adalah kemampuan yang berbeda, dengan kontrol yang berbeda.

Mengapa agen otonom mengubah taruhannya?

1:16 Program cadangan menyalin file Anda. Agen menafsirkan apa yang dibacanya dan dapat memanggil alat untuk bertindak berdasarkan itu. Otonomi yang lebih besar membuat konsekuensi akses yang luas lebih sulit diprediksi. Sudah ada contoh yang disengketakan. Jason Aten mengatakan Muse Meta membaca pesannya tanpa izin. Meta mengatakan integrasi tersebut membutuhkan akses disk penuh dan konektor Pesannya. Apple tidak menyebutkan Muse maupun tanggal peluncuran. Dikatakan bahwa pengguna harus memahami akses ini dan memberikannya melalui tindakan yang sangat eksplisit.

1:42 Antarmuka sebenarnya tetap menjadi tangkapan layar yang hilang. Ada masalah agen yang lebih dalam di sini. Email atau halaman web dapat berisi instruksi yang mencoba mengarahkan ulang asisten. Itulah injeksi prompt, dan agen menghadapinya saat melakukan pekerjaan yang berguna. Peneliti independen membangun Agent Dojo, dengan sembilan puluh tujuh tugas dan enam ratus dua puluh sembilan kasus keamanan. Ini menguji apakah data yang tidak dipercaya mengambil alih alat agen.

2:04 Ini adalah hasil laboratorium historis dari tahun dua ribu dua puluh empat. Dialog masa depan Apple belum dipublikasikan, jadi belum ada yang mendapatkan kemenangan. Dalam satu konfigurasi GPT empat puluh, serangan yang ditargetkan berhasil sekitar empat puluh delapan persen dari waktu. Penyaringan alat yang tersedia mengurangi itu menjadi sekitar tujuh persen, dengan pelajaran desain yang berguna.

Apa yang dapat dibatasi pengembang sebelum Apple merilisnya?

2:21 Berikan asisten data dan alat yang dibutuhkan tugas. Folder proyek adalah permukaan input yang lebih kecil daripada seluruh akun. Akses baca juga dapat dipisahkan dari izin untuk mengirim atau menghapus. Itu adalah pertukaran produk yang sudah dihadapi pengembang. Utilitas terminal atau cadangan mungkin memiliki alasan yang sah untuk akses yang luas. Menghapusnya sembarangan akan menciptakan alur kerja yang sangat aman dan rusak. Jadi, apa yang diubah Apple? Tujuan yang dinyatakan adalah persetujuan yang lebih jelas dan eksplisit untuk akses luar biasa.

2:46 Kita masih membutuhkan implementasi untuk melihat bagaimana ia mempertahankan penggunaan yang sah tersebut.

Apa sebenarnya yang dilakukan editor pass baru Apple?

2:50 Apple juga memperkenalkan Pass Designer, editor visual untuk pass Wallet. Anda mulai dengan template, masukkan gambar Anda, dan pratinjau pass saat Anda mengedit. Apple mengatakan pratinjau menggunakan rendering yang sama dengan iPhone dan Apple Watch. Ini memvalidasi bidang dan dapat membangun pass yang kompatibel dengan versi sebelumnya dari data semantik. Tag semantik menggambarkan hal-hal seperti detail penerbangan dan tanggal acara. Tiket konser Anda akhirnya bisa menjadi data terstruktur sebelum menjadi tangkapan layar buram di obrolan grup keluarga seseorang.

3:15 Beta membutuhkan macOS dua puluh tujuh atau lebih baru. Apple mencantumkan pendaftaran gratis untuk unduhan. Ini membantu mendesain pass; penerbitan dan distribusinya membutuhkan alur kerjanya sendiri.

Mengapa sebuah situs web tidak dapat melacak lokasi pengguna VPN dengan sempurna?

3:24 Lalu ada Utah, di mana anggota parlemen ingin situs web dewasa yang tertutup mengidentifikasi lokasi sebenarnya pengguna VPN atau memblokir mereka. Seorang hakim federal telah secara awal memblokir ketentuan VPN yang dipermasalahkan. Electronic Frontier Foundation mengutip pengadilan yang mengatakan kesempurnaan geolokasi saat ini tidak mungkin. Ternyata tumpukan jaringan masih menolak untuk mengimplementasikan fitur hanya karena sebuah badan legislatif membuka tiket. Situs web melihat alamat server VPN.

3:49 Itu tidak menetapkan di mana orang tersebut duduk. Memperlakukan setiap lokasi tersembunyi sebagai berpotensi Utah mendorong persyaratan jauh melampaui batas negara bagian. EFF mengutip alasan hakim bahwa Aylo perlu memverifikasi dua puluh delapan juta pengguna untuk menjamin kepatuhan. Itulah biaya menuntut kesempurnaan dari sinyal yang tidak dapat menyediakannya. Ini adalah perintah awal.

4:08 Pembatasan terpisah tentang berbagi informasi VPN tidak dipermasalahkan. Perbedaan hukum masih memiliki baris yang tersisa untuk ditinjau. Ketiga cerita tersebut membahas batasan. Editor pass dapat memeriksa suatu bidang. Situs web melihat alamat keluar. Agen mendapatkan akses apa pun yang benar-benar diberikan oleh sistem sekitarnya. Dan orang dari pembukaan adalah siapa pun yang mengirimi Anda pesan.

Siapa yang terekspos tanpa mengklik Izinkan?

4:27 Apple secara eksplisit juga memperingatkan tentang privasi mereka. Izin Anda dapat mengekspos percakapan yang berisi data orang lain, dan mereka tidak pernah mengklik tombol Izinkan Anda. Judul Slashdot menyebutnya peningkatan risiko. Lingkaran yang lebih luas itulah mengapa saya peduli. Layar izin perlu menjelaskan apa yang akan diterima asisten. Jika Anda lebih suka membaca ini daripada mendengarkan saya mengatakannya, perbedaannya tiba di kotak masuk Anda setiap pagi, gratis di the daily diff dot dev, tautan di bawah.

4:49 Jadi putusan hari ini, PERLU DITINJAU.

Apa putusan saya tentang kontrol yang diusulkan Apple?

4:51 Saya ingin persetujuan yang lebih jelas dan akses yang lebih sempit, dengan alur kerja yang sah tetap terjaga. Implementasi Apple akan memutuskan apakah itu berhasil. Berlangganan, tekan bel, dan beri tahu saya di komentar jika Anda akan memberinya cap berbeda. Dan itulah perbedaannya untuk hari ini. Saya Niko dari Axrisi. Gabungkan dengan bertanggung jawab.

Sumber

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com