AppleがAIエージェントにブレーキをかける
Appleは、自律型AIエージェントが広範なデータアクセスによるリスクを高めるため、macOSのフルディスクアクセスに追加の制御を計画しています。
Appleは、自律型AIエージェントが広範なデータアクセスによるリスクを高めるため、macOSのフルディスクアクセスに追加の制御を計画しています。現在のアクセス許可、MetaのMuseメッセージに関する係争中のケース、過去のエージェントセキュリティに関する証拠を検証し、その後、Pass Designerとユタ州のVPN位置情報に関する規則について取り上げます。評決：要レビュー。
この動画の要点
- なぜMacの1つの権限が突然より大きなリスクになるのか？
- フルディスクアクセスは実際に何を開くのか？
- なぜ自律型エージェントは事態を変えるのか？
- Appleが出荷する前に開発者は何を制限できるのか？
- Appleの新しいパスエディターは実際に何をするのか？
翻訳されたトランスクリプト
オリジナルの英語ナレーションから翻訳されています。利用可能なオーディオとキャプションはYouTubeによって管理されています。
なぜMacの1つの権限が突然より大きなリスクになるのか？
0:00 「許可」をクリックすれば、アプリが見られるものが決まると思うかもしれません。 Appleは、ますます自律的になるAIエージェントがフルディスクアクセスを実質的に よりリスクの高いものにし、コントロールを追加していると述べています。 このビデオでは、エージェントは何を読み取ることができますか？ Appleは何を変更していますか？ 他に誰が公開されますか？ あなたのMacでは、他の誰かのプライバシーが危険にさらされています。 評決の前に彼らについてはまた触れます。
0:18 10月3日土曜日、The Daily Diffです。 金曜日、Appleは開発者に対し、フルディスクアクセスについて警告し、 Walletパスエディターを導入しました。 一方、連邦判事はユタ州のVPN位置情報規則を保留にしました。 TechCrunchの記者サラ・ペレスは、Appleの発表を「銃撃戦」と呼びました。 Appleの投稿では標的は unnamed のままですが、これは見事なまでに企業的な 議論の始め方です。 Appleのドキュメントには、メールとメッセージのデータ、
フルディスクアクセスは実際に何を開くのか？
0:42 Safariデータが含まれています。 Time Machineバックアップも含まれているため、バックアップアプリが機能します。 Appleは、これにより他のプライバシーコントロールをほとんど回避すると述べています。 これはシステム設定を通じて許可するもので、権限はすでに存在します。 この発表は、その許可に関する追加のコントロールを約束しています。 Xでjaviは「権限プロンプトが好きだといいな」と答えました。 それが開発者のジレンマを6つの単語で表したものです。 自動化は、手動で自動化を承認するように私たちに求め続けています。
1:06 ただし、権限は明確にしてください。 Appleのガイドでは、アクセシビリティと自動化は別々の項目になっています。 保護されたデータを読み取ることと、別のアプリを制御することは、異なる機能であり、 異なるコントロールがあります。
なぜ自律型エージェントは事態を変えるのか？
1:16 バックアッププログラムはファイルをコピーします。 エージェントは読み取ったものを解釈し、ツールを呼び出してそれに基づいて行動する場合があります。 自律性が高まると、広範なアクセスによる結果を予測するのが難しくなります。 すでに係争中の例があります。 ジェイソン・アテンは、MetaのMuseが彼のメッセージを無断で読み取ったと述べました。 Metaは、この統合にはフルディスクアクセスとメッセージ コネクタの両方が必要であると述べています。AppleはMuseも展開日も名前を挙げていません。 Appleは、ユーザーはこのアクセスを理解し、非常に明確な
1:42 行動によって許可すべきであると述べています。実際のインターフェースはまだスクリーンショットがありません。 ここにはより深いエージェントの問題があります。 メールやウェブページには、 アシスタントをリダイレクトしようとする指示が含まれている場合があります。 それがプロンプトインジェクションであり、エージェントは有用な作業中にそれに遭遇します。 独立した研究者は、97のタスクと629のセキュリティケースを含むAgent Dojoを構築しました。 これは、信頼できないデータがエージェントのツールを乗っ取るかどうかをテストします。 これらは2024年からの過去のラボ結果です。
2:04 Appleの今後のダイアログはまだ公開されていないため、 まだ誰も勝利を味わっていません。 あるGPT-4oの設定では、ターゲット攻撃は約48%の確率で成功しました。 利用可能なツールをフィルタリングすると、それが約7%に減少し、 有用な設計の教訓が得られました。 アシスタントに、タスクが必要とするデータとツールを与えます。 プロジェクトフォルダーは、アカウント全体よりも小さな入力サーフェスです。
Appleが出荷する前に開発者は何を制限できるのか？
2:21 読み取りアクセスは、送信または削除の許可から分離することもできます。 それは開発者がすでに経験している製品のトレードオフです。 ターミナルやバックアップユーティリティには、広範なアクセスに対する正当な理由がある場合があります。 それを不用意に削除すると、非常に安全だが壊れたワークフローが作成されてしまいます。 では、Appleは何を変更しているのでしょうか？ 明示された目標は、特別なアクセスに対するより明確で明示的な同意です。 正当な用途をどのように維持するかを見るには、まだ実装が必要です。 Appleはまた、Walletパス用のビジュアルエディターであるPass Designerを導入しました。
2:46 テンプレートから始め、画像をインポートし、編集しながらパスをプレビューします。
Appleの新しいパスエディターは実際に何をするのか？
2:50 Appleは、プレビューがiPhoneとApple Watchと同じレンダリングを使用すると述べています。 フィールドを検証し、 セマンティックデータから後方互換性のあるパスを構築できます。 セマンティックタグは、フライトの詳細やイベントの日付などを記述します。 あなたのコンサートチケットは、ついに誰かの家族グループチャットでぼやけたスクリーンショットになる前に、構造化データになることができます。 ベータ版にはmacOS 27以降が必要です。 Appleはダウンロードのために無料登録をリストしています。 これはパスの設計に役立ちます。発行と配布には独自のワークフローが必要です。
3:15 次にユタ州です。ここでは、議員が、対象となるアダルトウェブサイトにVPNユーザーの実際の場所を特定するか、ブロックするように求めました。 連邦判事は、異議を唱えられたVPN規定を暫定的に阻止しました。 Electronic Frontier Foundationは、裁判所が「ジオロケーションの
なぜウェブサイトはVPNユーザーを正確に特定できないのか？
3:24 完璧さは現在不可能である」と述べたことを引用しています。 どうやら、ネットワークスタックは、立法府がチケットを開いたというだけの理由で機能を実装することをまだ拒否しているようです。 ウェブサイトはVPNサーバーのアドレスを見ます。 それはその人がどこに座っているかを確立しません。 すべての隠された場所を 潜在的にユタ州であると扱うと、その要件は 州の境界をはるかに超えてしまいます。 EFFは、裁判官の「Ayloはコンプライアンスを保証するために2800万人のユーザーを検証する必要がある」という推論を引用しています。
3:49 それは、提供できない信号に完璧を要求するコストです。 これは暫定的な命令です。 VPN情報の共有に関する別の制限は異議を唱えられませんでした。 法的な差分にはまだレビューすべき行が残っています。 これら3つの話はすべて境界に関するものです。 パスエディターはフィールドをチェックできます。 ウェブサイトは出口アドレスを見ます。 エージェントは、周囲のシステムが実際に許可するあらゆるアクセスを得ます。
4:08 そして、冒頭の人とは、あなたにメッセージを送った人です。 Appleは彼らのプライバシーについても明示的に警告しています。 あなたの許可は、他の誰かのデータを含む会話を公開する可能性があり、 彼らはあなたの「許可」ボタンをクリックしたことはありません。 Slashdotの見出しは、それを「リスクの増加」と呼んでいます。 そのより広い範囲が私が気にする理由です。 許可画面は、アシスタントが何を受け取るかを説明する必要があります。
「許可」をクリックせずに誰が公開されるのか？
4:27 私がこれを言うのを聞くよりも読みたい場合は、diffが毎日朝、無料でthedailydiff.devのあなたの受信箱に届きます。リンクは下にあります。 今日の評決は、要レビューです。 私はより明確な同意と、 正当なワークフローが維持された、より狭いアクセスを望みます。 Appleの実装が、それが実現するかどうかを決定します。 購読し、ベルを鳴らし、もしあなたが異なる判断を下したならコメントで教えてください。 そして、それが今日のdiffです。 Axrisiのニッコです。
4:49 責任を持ってマージしてください。
Appleが提案するコントロールに対する私の評決は？
4:51 今日の評決は、要レビューです。 私はより明確な同意と、 正当なワークフローが維持された、より狭いアクセスを望みます。 Appleの実装が、それが実現するかどうかを決定します。 購読し、ベルを鳴らし、もしあなたが異なる判断を下したならコメントで教えてください。 そして、それが今日のdiffです。 Axrisiのニッコです。責任を持ってマージしてください。
情報源
- Apple noticedeveloper.apple.com
- Mac permissionssupport.apple.com
- Reportingtechcrunch.com
- Muse disputetechcrunch.com
- Meta responsex.com
- AgentDojoarxiv.org
- Resultsagentdojo.spylab.ai
- Pass Designerdeveloper.apple.com
- Utah rulingwww.eff.org
- HNnews.ycombinator.com
