Apple гальмує розвиток ШІ-агентів

Що охоплює це відео

• Чому один дозвіл Mac раптом став більшим ризиком?
• Що насправді відкриває повний доступ до диска?
• Чому автономні агенти змінюють ставки?
• Що розробники можуть обмежити до того, як Apple випустить продукт?
• Що насправді робить новий редактор перепусток Apple?

Перекладена стенограма

Перекладено з оригінальної англійської розповіді. Доступне аудіо та субтитри контролюються YouTube.

Чому один дозвіл Mac раптом став більшим ризиком?

0:00 Ви могли б подумати, що натискання «Дозволити» вирішує, що може бачити програма. Apple заявляє, що все більш автономні ШІ-агенти роблять повний доступ до диска суттєво ризикованішим, і додає засоби контролю. У цьому відео, що можуть читати агенти? Що змінює Apple? Хто ще отримує доступ? На вашому Mac на карту поставлена конфіденційність іншої особи. Ми повернемося до них перед винесенням вердикту.

0:18 Сьогодні субота, третє жовтня, і це The Daily Diff. У п'ятницю Apple попередила розробників про повний доступ до диска та представила редактор перепусток Wallet. Тим часом федеральний суддя призупинив дію правил штату Юта щодо розташування VPN. Репортер TechCrunch Сара Перес назвала оголошення Apple «пострілами». Ціль залишається неназваною в дописі Apple, що є вражаюче корпоративним способом розпочати суперечку. Документація Apple включає дані Пошти та Повідомлень,

Що насправді відкриває повний доступ до диска?

0:42 а також дані Safari. Вона також включає резервні копії Time Machine, щоб ваша програма для резервного копіювання могла працювати. Apple стверджує, що це значною мірою обходить інші засоби контролю конфіденційності. Ви надаєте його через Системні налаштування, і дозвіл вже існує. Оголошення обіцяє додаткові засоби контролю щодо цього дозволу. На X, javi відповів: «Сподіваюся, вам подобаються запити на дозволи». Це напруга розробників у шести словах. Автоматизація продовжує просити нас вручну схвалювати автоматизацію.

1:06 Однак, тримайте дозволи в порядку. Доступність та Автоматизація мають окремі записи в посібнику Apple. Читання захищених даних та керування іншою програмою – це різні можливості, з різними засобами контролю.

Чому автономні агенти змінюють ставки?

1:16 Програма резервного копіювання копіює ваші файли. Агент інтерпретує те, що він читає, і може викликати інструменти для дії з цим. Більша автономія робить наслідки широкого доступу важчими для прогнозування. Вже є спірний приклад. Джейсон Атен сказав, що Muse від Meta читав його повідомлення без дозволу. Meta стверджує, що інтеграція вимагає як повного доступу до диска, так і її конектора для повідомлень. Apple не називає ні Muse, ні дату випуску. Вона каже, що користувачі повинні розуміти цей доступ і надавати його дуже явною

1:42 дією. Фактичний інтерфейс залишається відсутнім скріншотом. Тут є глибша проблема агента. Електронний лист або вебсторінка можуть містити інструкції, які намагаються перенаправити помічника. Це ін'єкція підказки, і агент стикається з нею під час виконання корисної роботи. Незалежні дослідники створили Agent Dojo, з дев'яноста сімома завданнями та шістьмастами двадцятьма дев'ятьма випадками безпеки. Він перевіряє, чи неперевірені дані захоплюють інструменти агента.

2:04 Це історичні лабораторні результати з 2024 року. Майбутній діалог Apple ще не опублікований, тому ніхто ще не святкує перемогу. В одній конфігурації GPT-4o цільова атака вдалася приблизно в сорока восьми відсотках випадків. Фільтрація доступних інструментів зменшила це до приблизно семи відсотків, з корисним уроком дизайну.

Що розробники можуть обмежити до того, як Apple випустить продукт?

2:21 Надайте помічнику дані та інструменти, необхідні для завдання. Папка проекту – це менша поверхня введення, ніж весь обліковий запис. Доступ для читання також можна відокремити від дозволу на надсилання або видалення. Це компроміс продукту, з яким розробники вже живуть. Термінал або утиліта резервного копіювання можуть мати законні причини для широкого доступу. Необережне його видалення створило б дуже безпечний, але неробочий робочий процес. То що ж змінює Apple? Заявлена мета – чіткіша, більш явна згода на надзвичайний доступ.

2:46 Нам все ще потрібна реалізація, щоб побачити, як вона зберігає ці законні використання.

Що насправді робить новий редактор перепусток Apple?

2:50 Apple також представила Pass Designer, візуальний редактор для перепусток Wallet. Ви починаєте з шаблону, завантажуєте свої зображення та переглядаєте перепустку під час редагування. Apple стверджує, що попередній перегляд використовує той самий рендеринг, що й iPhone та Apple Watch. Він перевіряє поля і може створювати зворотньо сумісну перепустку із семантичних даних. Семантичні теги описують такі речі, як деталі рейсу та дати подій. Ваш квиток на концерт нарешті може стати структурованими даними, перш ніж стати розмитим скріншотом у сімейному чаті когось.

3:15 Бета-версія вимагає macOS 27 або новішої. Apple вказує безкоштовну реєстрацію для завантаження. Це допомагає проектувати перепустки; їх випуск та розповсюдження потребує власного робочого процесу.

Чому вебсайт не може ідеально визначити місцезнаходження користувача VPN?

3:24 Далі є Юта, де законодавці хотіли, щоб вебсайти для дорослих ідентифікували справжнє місцезнаходження користувачів VPN або блокували їх. Федеральний суддя попередньо заблокував оскаржувані положення VPN. Electronic Frontier Foundation цитує суд, який стверджує, що досконалість геолокації наразі неможлива. Виявляється, мережевий стек все ще відмовляється реалізовувати функції лише тому, що законодавчий орган відкрив запит. Вебсайт бачить адресу VPN-сервера.

3:49 Це не встановлює, де сидить людина. Розглядати кожне приховане місцезнаходження як потенційно Юту, виштовхує вимогу далеко за межі штату. EFF цитує аргументацію судді, що Aylo потрібно буде перевірити двадцять вісім мільйонів користувачів, щоб гарантувати відповідність. Це ціна вимагання досконалості від сигналу, який не може її забезпечити. Це попередній наказ.

4:08 Окреме обмеження на обмін інформацією VPN не оскаржувалося. Юридичний розбір ще має рядки для перегляду. Всі три історії обертаються навколо кордонів. Редактор перепусток може перевірити поле. Вебсайт бачить вихідну адресу. Агент отримує будь-який доступ, який надає оточуюча система. А людина з початку – це той, хто надіслав вам повідомлення.

Хто отримує доступ без натискання «Дозволити»?

4:27 Apple явно попереджає і про їхню конфіденційність. Ваш дозвіл може розкрити розмову, що містить дані когось іншого, і вони ніколи не натискали вашу кнопку «Дозволити». Заголовок Slashdot називає це підвищеним ризиком. Цей ширший круг – ось чому мені це важливо. Екран дозволів повинен пояснювати, що отримає помічник. Якщо ви волієте читати це, ніж чути, як я це кажу, розбір потрапляє у вашу скриньку кожного ранку, безкоштовно на thedailydiff.dev, посилання нижче.

4:49 Отже, сьогоднішній вердикт: NEEDS REVIEW.

Який мій вердикт щодо запропонованих Apple засобів контролю?

4:51 Я хочу чіткішої згоди та вужчого доступу, зі збереженням законних робочих процесів. Реалізація Apple вирішить, чи вона це забезпечить. Підпишіться, натисніть дзвіночок і скажіть мені в коментарях, чи ви б оцінили це інакше. І це весь розбір на сьогодні. Я Ніко з Axrisi. Об'єднуйте відповідально.

Джерела

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com