Apple, AI 에이전트에 제동을 걸다

이 동영상에서 다루는 내용

• Mac 권한 하나가 갑자기 더 큰 위험이 되는 이유는 무엇인가요?
• 전체 디스크 접근은 실제로 무엇을 열어주나요?
• 자율 에이전트가 판돈을 바꾸는 이유는 무엇인가요?
• Apple이 출시하기 전에 개발자들이 제한할 수 있는 것은 무엇인가요?
• Apple의 새로운 패스 편집기는 실제로 무엇을 하나요?

번역된 스크립트

원래 영어 내레이션에서 번역되었습니다. 사용 가능한 오디오 및 캡션은 YouTube에서 제어합니다.

Mac 권한 하나가 갑자기 더 큰 위험이 되는 이유는 무엇인가요?

0:00 허용을 클릭하면 앱이 볼 수 있는 내용이 결정된다고 생각할 것입니다. Apple은 점점 더 자율적인 AI 에이전트가 전체 디스크 접근을 상당히 더 위험하게 만들고 있으며, 제어 기능을 추가하고 있다고 말합니다. 이 비디오에서 에이전트는 무엇을 읽을 수 있나요? Apple은 무엇을 변경하고 있나요? 다른 누가 노출되나요? Mac에서는 다른 사람의 프라이버시가 위험합니다. 평결 전에 그들에게 돌아갈 것입니다.

0:18 10월 3일 토요일, The Daily Diff입니다. 금요일, Apple은 개발자들에게 전체 디스크 접근에 대해 경고하고 새로운 Wallet 패스 편집기를 소개했습니다. 한편, 연방 판사는 Utah주의 VPN 위치 규칙을 보류했습니다. TechCrunch 기자 사라 페레즈는 Apple의 발표를 '총성'이라고 불렀습니다. Apple의 게시물에서는 대상이 이름 없이 남아 있는데, 이는 인상적으로 기업적인 방식으로 논쟁을 시작하는 방법입니다. Apple의 문서에는 메일 및 메시지 데이터가 포함되어 있으며,

전체 디스크 접근은 실제로 무엇을 열어주나요?

0:42 Safari 데이터도 포함됩니다. 또한 Time Machine 백업도 포함되므로 백업 앱이 작동할 수 있습니다. Apple은 이것이 다른 개인 정보 보호 제어 기능을 크게 우회한다고 말합니다. 시스템 설정을 통해 권한을 부여하며, 이 권한은 이미 존재합니다. 발표는 해당 권한 부여에 대한 추가 제어 기능을 약속합니다. X에서 javi는 '권한 프롬프트가 마음에 드시기를 바랍니다'라고 답했습니다. 그것이 여섯 단어로 표현된 개발자의 긴장감입니다. 자동화는 계속해서 자동화를 수동으로 승인해 달라고 요청합니다.

1:06 하지만 권한을 잘 유지하세요. 접근성 및 자동화는 Apple 가이드에 별도의 항목이 있습니다. 보호된 데이터를 읽고 다른 앱을 제어하는 것은 다른 기능이며, 다른 제어 기능을 가집니다.

자율 에이전트가 판돈을 바꾸는 이유는 무엇인가요?

1:16 백업 프로그램은 파일을 복사합니다. 에이전트는 읽은 내용을 해석하고 도구를 호출하여 그에 따라 조치를 취할 수 있습니다. 더 많은 자율성은 광범위한 접근의 결과를 예측하기 어렵게 만듭니다. 이미 논란이 되는 예시가 있습니다. 제이슨 아텐은 Meta의 Muse가 허락 없이 자신의 메시지를 읽었다고 말했습니다. Meta는 통합에 전체 디스크 접근과 메시지 커넥터가 모두 필요하다고 말합니다. Apple은 Muse나 출시일을 언급하지 않았습니다. Apple은 사용자가 이 접근을 이해하고 매우 명시적인

1:42 행동을 통해 부여해야 한다고 말합니다. 실제 인터페이스는 스크린샷이 누락된 상태입니다. 여기에는 더 깊은 에이전트 문제가 있습니다. 이메일이나 웹페이지에는 어시스턴트를 리디렉션하려는 지침이 포함될 수 있습니다. 그것이 프롬프트 인젝션이며, 에이전트는 유용한 작업을 수행하는 동안 이를 만납니다. 독립 연구원들은 97개의 작업과 629개의 보안 사례를 가진 Agent Dojo를 만들었습니다. 629개의 보안 사례를 가졌습니다. 신뢰할 수 없는 데이터가 에이전트의 도구를 장악하는지 테스트합니다.

2:04 이것은 2024년의 과거 실험실 결과입니다. Apple의 미래 대화 상자는 아직 게시되지 않았으므로, 아무도 아직 승리 선언을 할 수 없습니다. 하나의 GPT-4o 구성에서, 표적 공격은 약 48%의 시간 동안 성공했습니다. 48%의 시간 동안 성공했습니다. 사용 가능한 도구를 필터링하면 약 7%로 줄어들었으며, 유용한 디자인 교훈을 얻었습니다.

Apple이 출시하기 전에 개발자들이 제한할 수 있는 것은 무엇인가요?

2:21 어시스턴트에게 작업에 필요한 데이터와 도구를 제공하세요. 프로젝트 폴더는 전체 계정보다 더 작은 입력 표면입니다. 읽기 접근은 보내거나 삭제할 권한과 분리될 수도 있습니다. 그것은 개발자들이 이미 감수하고 있는 제품 트레이드오프입니다. 터미널 또는 백업 유틸리티는 광범위한 접근에 대한 정당한 이유가 있을 수 있습니다. 부주의하게 제거하면 매우 안전하지만 고장난 워크플로우가 생성될 것입니다. 그렇다면 Apple은 무엇을 변경하고 있나요? 명시된 목표는 비정상적인 접근에 대한 더 명확하고 명시적인 동의입니다.

2:46 합법적인 사용을 어떻게 보존하는지 보기 위해 구현이 필요합니다.

Apple의 새로운 패스 편집기는 실제로 무엇을 하나요?

2:50 Apple은 또한 Wallet 패스를 위한 비주얼 편집기인 Pass Designer를 소개했습니다. 템플릿으로 시작하여 이미지를 가져오고, 편집하면서 패스를 미리 볼 수 있습니다. Apple은 미리보기가 iPhone 및 Apple Watch와 동일한 렌더링을 사용한다고 말합니다. 필드를 유효성 검사하고 의미 데이터에서 이전 버전과 호환되는 패스를 만들 수 있습니다. 의미 태그는 항공편 세부 정보 및 이벤트 날짜와 같은 것을 설명합니다. 콘서트 티켓은 마침내 누군가의 가족 그룹 채팅에서 흐릿한 스크린샷이 되기 전에 구조화된 데이터가 될 수 있습니다.

3:15 베타 버전은 macOS 27 이상이 필요합니다. Apple은 다운로드에 대한 무료 등록을 명시하고 있습니다. 이것은 패스 디자인을 돕습니다. 패스 발행 및 배포에는 자체 워크플로우가 필요합니다.

웹사이트가 VPN 사용자의 위치를 완벽하게 찾을 수 없는 이유는 무엇인가요?

3:24 그리고 Utah주가 있습니다. 여기서 의원들은 성인 웹사이트들이 VPN 사용자의 실제 위치를 식별하거나 차단하도록 요구했습니다. 연방 판사는 도전을 받은 VPN 조항들을 잠정적으로 차단했습니다. Electronic Frontier Foundation은 법원이 지리 위치 완벽성은 현재 불가능하다고 말한 것을 인용합니다. 알고 보니 네트워크 스택은 단지 입법부가 티켓을 열었다는 이유만으로 기능을 구현하기를 거부합니다. 웹사이트는 VPN 서버의 주소를 봅니다.

3:49 그것은 사람이 어디에 앉아 있는지를 확인하지 않습니다. 모든 숨겨진 위치를 잠재적으로 Utah주로 취급하는 것은 요구 사항을 주 경계선 너머로 훨씬 더 밀어냅니다. EFF는 판사의 추론을 인용하며, Aylo는 규정 준수를 보장하기 위해 2,800만 사용자를 확인해야 할 것이라고 말했습니다. 그것이 제공할 수 없는 신호에서 완벽을 요구하는 대가입니다. 이것은 예비 명령입니다.

4:08 VPN 정보 공유에 대한 별도의 제한은 도전받지 않았습니다. 법적 차이점은 여전히 검토할 부분이 남아 있습니다. 세 가지 이야기 모두 경계에 관한 것입니다. 패스 편집기는 필드를 확인할 수 있습니다. 웹사이트는 종료 주소를 봅니다. 에이전트는 주변 시스템이 실제로 부여하는 모든 접근 권한을 얻습니다. 그리고 처음에 언급된 사람은 메시지를 보낸 사람입니다.

허용을 클릭하지 않고도 누가 노출되나요?

4:27 Apple은 그들의 프라이버시에 대해서도 명시적으로 경고합니다. 귀하의 허용은 다른 사람의 데이터가 포함된 대화를 노출할 수 있으며, 그들은 귀하의 허용 버튼을 클릭한 적이 없습니다. Slashdot의 헤드라인은 이를 '증가된 위험'이라고 부릅니다. 그 더 넓은 범위가 제가 관심을 갖는 이유입니다. 권한 화면은 어시스턴트가 무엇을 받을지 설명해야 합니다. 제가 말하는 것을 듣는 것보다 이 글을 읽고 싶다면, 매일 아침 귀하의 받은 편지함으로 무료로 diff가 도착합니다. the daily diff dot dev에서 링크는 아래에 있습니다. 매일 아침 귀하의 받은 편지함으로 무료로 diff가 도착합니다. the daily diff dot dev에서 링크는 아래에 있습니다.

4:49 오늘의 평결은 NEEDS REVIEW입니다.

Apple이 제안한 제어 기능에 대한 저의 평결은 무엇인가요?

4:51 합법적인 워크플로우가 보존되는 더 명확한 동의와 더 좁은 접근을 원합니다. Apple의 구현이 그것을 제공할지 여부를 결정할 것입니다. 구독하고, 알림 벨을 누르고, 다르게 처리했을지 댓글로 알려주세요. 오늘의 diff는 여기까지입니다. 다르게 처리했을지 댓글로 알려주세요. 오늘의 diff는 여기까지입니다. 저는 Axrisi의 Niko입니다. 책임감 있게 병합하세요.

출처

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com