اپل ترمز هوش مصنوعی عاملان را می‌کشد

این ویدیو چه مواردی را پوشش می‌دهد

• چرا ناگهان یک مجوز مک ریسک بزرگ‌تری شده است؟
• دسترسی کامل دیسک واقعا چه چیزی را باز می‌کند؟
• چرا عاملان خودمختار سهام را تغییر می‌دهند؟
• توسعه‌دهندگان قبل از عرضه اپل چه چیزی را می‌توانند محدود کنند؟
• ویرایشگر پاس جدید اپل واقعا چه کاری انجام می‌دهد؟

رونوشت ترجمه شده

ترجمه شده از روایت اصلی انگلیسی. صوت و زیرنویس‌های موجود توسط YouTube کنترل می‌شوند.

چرا ناگهان یک مجوز مک ریسک بزرگ‌تری شده است؟

0:00 شما فکر می‌کنید که کلیک روی Allow مشخص می‌کند که یک برنامه چه چیزی را می‌تواند ببیند. اپل می‌گوید که عوامل هوش مصنوعی به طور فزاینده‌ای خودمختار، Full Disk Access را به طور قابل توجهی ریسک‌پذیرتر می‌کنند و کنترل‌هایی را اضافه می‌کند. در این ویدئو، عوامل چه چیزی را می‌توانند بخوانند؟ اپل چه چیزی را تغییر می‌دهد؟ چه کسی دیگر در معرض خطر قرار می‌گیرد؟ حریم خصوصی شخص دیگری در مک شما در معرض خطر است. قبل از صدور حکم به آنها باز می‌گردیم.

0:18 شنبه، سوم اکتبر است و این The Daily Diff است. روز جمعه، اپل به توسعه‌دهندگان در مورد دسترسی کامل دیسک هشدار داد و یک ویرایشگر Pass Wallet را معرفی کرد. در همین حال، یک قاضی فدرال قوانین موقعیت مکانی VPN یوتا را به حالت تعلیق درآورد. سارا پرز، خبرنگار TechCrunch، اطلاعیه اپل را «شلیک» نامید. هدف در پست اپل نامشخص باقی می‌ماند، که یک روش سازمانی بسیار تأثیرگذار برای شروع یک بحث است. اسناد اپل شامل داده‌های Mail و Messages است،

دسترسی کامل دیسک واقعا چه چیزی را باز می‌کند؟

0:42 به علاوه داده‌های Safari. همچنین شامل نسخه‌های پشتیبان Time Machine است، بنابراین برنامه پشتیبان شما می‌تواند کار کند. اپل می‌گوید که این تا حد زیادی سایر کنترل‌های حریم خصوصی را نادیده می‌گیرد. شما آن را از طریق System Settings اعطا می‌کنید و این مجوز قبلاً وجود دارد. این اطلاعیه وعده کنترل‌های اضافی در مورد آن اعطا را می‌دهد. در X، جاوید پاسخ داد: «امیدوارم از درخواست‌های مجوز خوشتان بیاید.» این همان تنش توسعه‌دهنده در شش کلمه است. اتوماسیون همچنان از ما می‌خواهد که اتوماسیون را به صورت دستی تأیید کنیم.

1:06 اما مجوزها را مستقیم نگه دارید. Accessibility و Automation ورودی‌های جداگانه‌ای در راهنمای اپل دارند. خواندن داده‌های محافظت‌شده و کنترل یک برنامه دیگر قابلیت‌های متفاوتی هستند، با کنترل‌های متفاوت.

چرا عاملان خودمختار سهام را تغییر می‌دهند؟

1:16 یک برنامه پشتیبان فایل‌های شما را کپی می‌کند. یک عامل آنچه را می‌خواند تفسیر می‌کند و ممکن است ابزارهایی را برای اقدام بر روی آن فراخوانی کند. استقلال بیشتر، پیش‌بینی عواقب دسترسی گسترده را دشوارتر می‌کند. قبلاً یک مثال مورد مناقشه وجود دارد. جیسون آتن گفت که Muse متا پیام‌های او را بدون اجازه خوانده است. متا می‌گوید این ادغام به دسترسی کامل دیسک و Messages Connector آن نیاز دارد. اپل نه Muse و نه تاریخ عرضه را نام نمی‌برد. اپل نه Muse و نه تاریخ عرضه را نام نمی‌برد. اپل می‌گوید کاربران باید این دسترسی را درک کنند و آن را از طریق اقدام بسیار صریح

1:42 اعطا کنند. رابط کاربری واقعی یک اسکرین‌شات گمشده باقی می‌ماند. یک مشکل عمیق‌تر با عامل وجود دارد. یک ایمیل یا صفحه وب می‌تواند حاوی دستورالعمل‌هایی باشد که سعی در تغییر مسیر دستیار دارند. این تزریق فرمان است و عامل هنگام انجام کارهای مفید با آن مواجه می‌شود. محققان مستقل Agent Dojo را ساختند، با نود و هفت وظیفه و شش صد و بیست و نه مورد امنیتی. این آزمایش می‌کند که آیا داده‌های نامعتبر ابزارهای یک عامل را در اختیار می‌گیرند یا خیر.

2:04 اینها نتایج آزمایشگاهی تاریخی از سال 2024 هستند. دیالوگ آینده اپل هنوز منتشر نشده است، بنابراین هیچ‌کس هنوز پیروزی را جشن نمی‌گیرد. در یک پیکربندی GPT-4.0، حمله هدفمند در حدود 48 درصد مواقع موفق بود. فیلتر کردن ابزارهای موجود این را به حدود 7 درصد رساند، با یک درس طراحی مفید.

توسعه‌دهندگان قبل از عرضه اپل چه چیزی را می‌توانند محدود کنند؟

2:21 داده‌ها و ابزارهایی را که وظیفه نیاز دارد به دستیار بدهید. یک پوشه پروژه یک سطح ورودی کوچک‌تر از یک حساب کامل است. دسترسی خواندن نیز می‌تواند از مجوز ارسال یا حذف جدا شود. این یک معامله محصول است که توسعه‌دهندگان قبلاً با آن زندگی می‌کنند. یک ترمینال یا ابزار پشتیبان‌گیری ممکن است دلیل مشروعی برای دسترسی گسترده داشته باشد. حذف بی‌دقت آن یک گردش کار شکسته بسیار امن ایجاد می‌کند. پس اپل چه چیزی را تغییر می‌دهد؟ هدف اعلام شده، رضایت واضح‌تر و صریح‌تر برای دسترسی فوق‌العاده است.

2:46 ما هنوز به پیاده‌سازی نیاز داریم تا ببینیم چگونه این موارد استفاده مشروع را حفظ می‌کند.

ویرایشگر پاس جدید اپل واقعا چه کاری انجام می‌دهد؟

2:50 اپل همچنین Pass Designer را معرفی کرد، یک ویرایشگر بصری برای Wallet passes. با یک الگو شروع می‌کنید، تصاویر خود را وارد می‌کنید و پیش‌نمایش pass را هنگام ویرایش مشاهده می‌کنید. اپل می‌گوید پیش‌نمایش از همان رندرینگ iPhone و Apple Watch استفاده می‌کند. فیلدها را اعتبارسنجی می‌کند و می‌تواند یک pass سازگار با نسخه‌های قبلی از داده‌های معنایی بسازد. برچسب‌های معنایی چیزهایی مانند جزئیات پرواز و تاریخ رویدادها را توصیف می‌کنند. بلیط کنسرت شما بالاخره می‌تواند به داده‌های ساختاریافته تبدیل شود، قبل از اینکه به یک اسکرین‌شات تار در چت گروهی خانواده کسی تبدیل شود.

3:15 نسخه بتا به macOS 27 یا بالاتر نیاز دارد. اپل ثبت‌نام رایگان برای دانلود را لیست می‌کند. این به طراحی passها کمک می‌کند؛ صدور و توزیع آنها به گردش کار خاص خود نیاز دارد.

چرا یک وب‌سایت نمی‌تواند کاربر VPN را به طور کامل مکان‌یابی کند؟

3:24 سپس یوتا وجود دارد، جایی که قانون‌گذاران می‌خواستند وب‌سایت‌های بزرگسالان پوشش‌داده‌شده موقعیت مکانی واقعی کاربران VPN را شناسایی کنند یا آنها را مسدود کنند. یک قاضی فدرال به طور مقدماتی مفاد VPN مورد اعتراض را مسدود کرده است. بنیاد مرزهای الکترونیکی (EFF) از دادگاه نقل می‌کند که گفته است دقت مکان‌یابی در حال حاضر امکان‌پذیر نیست. معلوم می‌شود که پشته شبکه همچنان از پیاده‌سازی ویژگی‌ها صرفاً به این دلیل که یک قانون‌گذار یک تیکت باز کرده است، امتناع می‌کند. یک وب‌سایت آدرس سرور VPN را می‌بیند.

3:49 این مشخص نمی‌کند که شخص در کجا نشسته است. برخورد با هر مکان پنهان به عنوان یوتای بالقوه، این الزامات را بسیار فراتر از مرزهای ایالت می‌برد. EFF از استدلال قاضی نقل می‌کند که Aylo برای تضمین انطباق، باید 28 میلیون کاربر را تأیید کند. این هزینه درخواست کمال از سیگنالی است که نمی‌تواند آن را تأمین کند. این یک دستور مقدماتی است.

4:08 محدودیت جداگانه در اشتراک‌گذاری اطلاعات VPN مورد اعتراض قرار نگرفت. تفاوت قانونی هنوز خطوطی برای بررسی دارد. همه سه داستان به مرزها مربوط می‌شوند. یک ویرایشگر pass می‌تواند یک فیلد را بررسی کند. یک وب‌سایت یک آدرس خروجی را می‌بیند. یک عامل هر دسترسی‌ای را که سیستم اطراف واقعاً اعطا می‌کند، دریافت می‌کند. و شخصی که در ابتدا بود، کسی است که پیام را برای شما ارسال کرده است.

چه کسی بدون کلیک روی Allow در معرض خطر قرار می‌گیرد؟

4:27 اپل صراحتاً در مورد حریم خصوصی آنها نیز هشدار می‌دهد. مجوز شما می‌تواند مکالمه‌ای حاوی داده‌های شخص دیگری را در معرض دید قرار دهد، و آنها هرگز روی دکمه Allow شما کلیک نکرده‌اند. عنوان Slashdot آن را «ریسک افزایش‌یافته» می‌نامد. آن دایره وسیع‌تر دلیلی است که من اهمیت می‌دهم. صفحه مجوز باید توضیح دهد که دستیار چه چیزی را دریافت خواهد کرد. اگر ترجیح می‌دهید این را بخوانید تا اینکه من آن را بگویم، diff هر روز صبح رایگان به صندوق ورودی شما می‌رسد، در daily diff dot dev، لینک زیر.

4:49 پس حکم امروز، NEEDS REVIEW.

نظر من در مورد کنترل‌های پیشنهادی اپل چیست؟

4:51 من رضایت واضح‌تر و دسترسی محدودتر را می‌خواهم، با حفظ گردش کارهای مشروع. پیاده‌سازی اپل مشخص خواهد کرد که آیا آن را ارائه می‌دهد یا خیر. مشترک شوید، زنگ را بزنید و در نظرات به من بگویید که آیا آن را متفاوت مهر می‌زدید. و این تفاوت امروز است. من نیکو از Axrisi هستم. با مسئولیت‌پذیری ادغام کنید.

منابع

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com