Η Apple φρενάρει τους παράγοντες τεχνητής νοημοσύνης

Τι καλύπτει αυτό το βίντεο

• Γιατί μια άδεια Mac αποτελεί ξαφνικά μεγαλύτερο κίνδυνο;
• Τι ακριβώς ανοίγει η Πλήρης Πρόσβαση Δίσκου;
• Γιατί οι αυτόνομοι πράκτορες αλλάζουν τα δεδομένα;
• Τι μπορούν να περιορίσουν οι προγραμματιστές πριν κυκλοφορήσει η Apple;
• Τι κάνει στην πραγματικότητα ο νέος επεξεργαστής πάσου της Apple;

Μεταφρασμένη μεταγραφή

Μεταφράστηκε από την πρωτότυπη αγγλική αφήγηση. Ο διαθέσιμος ήχος και οι υπότιτλοι ελέγχονται από το YouTube.

Γιατί μια άδεια Mac αποτελεί ξαφνικά μεγαλύτερο κίνδυνο;

0:00 Θα νόμιζες ότι το κλικ στο «Να επιτρέπεται» καθορίζει τι μπορεί να δει μια εφαρμογή. Η Apple λέει ότι οι ολοένα και πιο αυτόνομοι πράκτορες τεχνητής νοημοσύνης κάνουν την Πλήρη Πρόσβαση Δίσκου ουσιαστικά πιο επικίνδυνη, και προσθέτει ελέγχους. Σε αυτό το βίντεο, τι μπορούν να διαβάσουν οι πράκτορες; Τι αλλάζει η Apple; Ποιος άλλος εκτίθεται; Η ιδιωτικότητα κάποιου άλλου διακυβεύεται στον Mac σας. Θα επανέλθουμε σε αυτούς πριν από την ετυμηγορία.

0:18 Είναι Σάββατο, τρεις Οκτωβρίου, και αυτό είναι το The Daily Diff. Την Παρασκευή, η Apple προειδοποίησε τους προγραμματιστές για την πλήρη πρόσβαση στο δίσκο και παρουσίασε ένα Πρόγραμμα επεξεργασίας κάρτας Wallet. Εν τω μεταξύ, ένας ομοσπονδιακός δικαστής ανέστειλε τους κανόνες τοποθεσίας VPN της Γιούτα. Η δημοσιογράφος του TechCrunch, Sarah Perez, χαρακτήρισε την ανακοίνωση της Apple «πυροβολισμούς». Ο στόχος παραμένει ανώνυμος στην ανάρτηση της Apple, η οποία είναι ένας εντυπωσιακά εταιρικός τρόπος να ξεκινήσει μια διαφωνία. Η τεκμηρίωση της Apple περιλαμβάνει δεδομένα Mail και Μηνυμάτων,

Τι ακριβώς ανοίγει η Πλήρης Πρόσβαση Δίσκου;

0:42 συν δεδομένα Safari. Περιλαμβάνει επίσης αντίγραφα ασφαλείας του Time Machine, ώστε η εφαρμογή δημιουργίας αντιγράφων ασφαλείας να μπορεί να λειτουργήσει. Η Apple λέει ότι αυτό παρακάμπτει σε μεγάλο βαθμό άλλους ελέγχους απορρήτου. Την χορηγείτε μέσω των Ρυθμίσεων Συστήματος, και η άδεια υπάρχει ήδη. Η ανακοίνωση υπόσχεται πρόσθετους ελέγχους γύρω από αυτήν την χορήγηση. Στο X, ο javi απάντησε, «Ελπίζω να σας αρέσουν οι προτροπές άδειας». Αυτή είναι η ένταση των προγραμματιστών σε έξι λέξεις. Η αυτοματοποίηση μας ζητά συνεχώς να εγκρίνουμε χειροκίνητα την αυτοματοποίηση.

1:06 Κρατήστε όμως τις άδειες ευθείες. Η Προσβασιμότητα και η Αυτοματοποίηση έχουν ξεχωριστές καταχωρίσεις στον οδηγό της Apple. Η ανάγνωση προστατευμένων δεδομένων και ο έλεγχος μιας άλλης εφαρμογής είναι διαφορετικές δυνατότητες, με διαφορετικούς ελέγχους.

Γιατί οι αυτόνομοι πράκτορες αλλάζουν τα δεδομένα;

1:16 Ένα πρόγραμμα δημιουργίας αντιγράφων ασφαλείας αντιγράφει τα αρχεία σας. Ένας πράκτορας ερμηνεύει αυτό που διαβάζει και μπορεί να καλέσει εργαλεία για να δράσει πάνω σε αυτό. Περισσότερη αυτονομία κάνει τις συνέπειες της ευρείας πρόσβασης πιο δύσκολο να προβλεφθούν. Υπάρχει ήδη ένα αμφισβητούμενο παράδειγμα. Ο Jason Aten είπε ότι το Muse της Meta διάβασε τα μηνύματά του χωρίς άδεια. Η Meta λέει ότι η ενσωμάτωση απαιτεί τόσο πλήρη πρόσβαση στο δίσκο όσο και το Messages της σύνδεσμο. Η Apple δεν αναφέρει ούτε το Muse ούτε ημερομηνία κυκλοφορίας. Λέει ότι οι χρήστες πρέπει να κατανοήσουν αυτήν την πρόσβαση και να την χορηγήσουν μέσω πολύ ρητής

1:42 ενέργειας. Η πραγματική διεπαφή παραμένει ένα χαμένο στιγμιότυπο οθόνης. Υπάρχει ένα βαθύτερο πρόβλημα πράκτορα εδώ. Ένα email ή μια ιστοσελίδα μπορεί να περιέχει οδηγίες που προσπαθούν να ανακατευθύνουν τον βοηθό. Αυτό είναι η ενίσχυση προτροπής, και ο πράκτορας την αντιμετωπίζει ενώ κάνει χρήσιμη εργασία. Ανεξάρτητοι ερευνητές δημιούργησαν το Agent Dojo, με ενενήντα επτά εργασίες και έξι εκατόν είκοσι εννέα περιπτώσεις ασφάλειας. Ελέγχει αν μη αξιόπιστα δεδομένα καταλαμβάνουν τα εργαλεία ενός πράκτορα.

2:04 Αυτά είναι ιστορικά εργαστηριακά αποτελέσματα από το 2024. Ο μελλοντικός διάλογος της Apple δεν έχει δημοσιευτεί, οπότε κανείς δεν κάνει ακόμα γύρο θριάμβου. Σε μια διαμόρφωση GPT-4.0, η στοχευμένη επίθεση πέτυχε περίπου σαράντα οκτώ τοις εκατό των περιπτώσεων. Το φιλτράρισμα των διαθέσιμων εργαλείων μείωσε αυτό στο περίπου επτά τοις εκατό, με ένα χρήσιμο δίδαγμα σχεδιασμού.

Τι μπορούν να περιορίσουν οι προγραμματιστές πριν κυκλοφορήσει η Apple;

2:21 Δώστε σε έναν βοηθό τα δεδομένα και τα εργαλεία που χρειάζεται η εργασία. Ένας φάκελος έργου είναι μια μικρότερη επιφάνεια εισόδου από έναν ολόκληρο λογαριασμό. Η πρόσβαση ανάγνωσης μπορεί επίσης να διαχωριστεί από την άδεια αποστολής ή διαγραφής. Αυτή είναι μια ανταλλαγή προϊόντων με την οποία ζουν ήδη οι προγραμματιστές. Ένα τερματικό ή βοηθητικό πρόγραμμα δημιουργίας αντιγράφων ασφαλείας μπορεί να έχει έναν νόμιμο λόγο για ευρεία πρόσβαση. Η αλόγιστη αφαίρεσή του θα δημιουργούσε μια πολύ ασφαλή χαλασμένη ροή εργασιών. Τι αλλάζει λοιπόν η Apple; Ο δηλωμένος στόχος είναι σαφέστερη, πιο ρητή συναίνεση για εξαιρετική πρόσβαση.

2:46 Χρειαζόμαστε ακόμα την υλοποίηση για να δούμε πώς διατηρεί αυτές τις νόμιμες χρήσεις.

Τι κάνει στην πραγματικότητα ο νέος επεξεργαστής πάσου της Apple;

2:50 Η Apple παρουσίασε επίσης το Pass Designer, έναν οπτικό επεξεργαστή για κάρτες Wallet. Ξεκινάτε με ένα πρότυπο, εισάγετε τις εικόνες σας και κάνετε προεπισκόπηση της κάρτας καθώς επεξεργάζεστε. Η Apple λέει ότι η προεπισκόπηση χρησιμοποιεί την ίδια απόδοση με το iPhone και το Apple Watch. Επικυρώνει πεδία και μπορεί να δημιουργήσει ένα συμβατό προς τα πίσω πάσο από σημασιολογικά δεδομένα. Οι σημασιολογικές ετικέτες περιγράφουν πράγματα όπως λεπτομέρειες πτήσης και ημερομηνίες εκδηλώσεων. Το εισιτήριό σας για τη συναυλία μπορεί επιτέλους να γίνει δομημένα δεδομένα πριν γίνει ένα θολό στιγμιότυπο οθόνης στην ομαδική συνομιλία κάποιας οικογένειας.

3:15 Η beta απαιτεί macOS 27 ή νεότερη έκδοση. Η Apple αναφέρει δωρεάν εγγραφή για τη λήψη. Αυτό βοηθάει στο σχεδιασμό των καρτών. Η έκδοση και η διανομή τους χρειάζονται τη δική τους ροή εργασιών.

Γιατί ένας ιστότοπος δεν μπορεί να εντοπίσει τέλεια έναν χρήστη VPN;

3:24 Έπειτα υπάρχει η Γιούτα, όπου οι νομοθέτες ήθελαν οι ιστοσελίδες ενηλίκων που καλύπτονται να αναγνωρίζουν την πραγματική τοποθεσία των χρηστών VPN ή να τους αποκλείουν. Ένας ομοσπονδιακός δικαστής έχει προκαταρκτικά αποκλείσει τις επίμαχες διατάξεις VPN. Το Electronic Frontier Foundation παραθέτει το δικαστήριο να λέει ότι η τελειότητα γεωεντοπισμού δεν είναι επί του παρόντος δυνατή. Αποδεικνύεται ότι η στοίβα δικτύου εξακολουθεί να αρνείται να εφαρμόσει λειτουργίες απλώς επειδή ένα νομοθετικό σώμα άνοιξε ένα αίτημα. Ένας ιστότοπος βλέπει τη διεύθυνση του διακομιστή VPN.

3:49 Αυτό δεν καθορίζει πού κάθεται το άτομο. Η αντιμετώπιση κάθε κρυφής τοποθεσίας ως πιθανώς Γιούτα ωθεί την απαίτηση πολύ πέρα από τα σύνορα του κράτους. Το EFF παραθέτει τον συλλογισμό του δικαστή ότι ο Aylo θα χρειαζόταν να επαληθεύσει είκοσι οκτώ εκατομμύρια χρήστες για να εγγυηθεί τη συμμόρφωση. Αυτό είναι το κόστος της απαίτησης τελειότητας από ένα σήμα που δεν μπορεί να την παρέχει. Αυτή είναι μια προκαταρκτική εντολή.

4:08 Ο ξεχωριστός περιορισμός στην κοινή χρήση πληροφοριών VPN δεν αμφισβητήθηκε. Το νομικό diff έχει ακόμα γραμμές για αναθεώρηση. Και οι τρεις ιστορίες βασίζονται σε όρια. Ένας επεξεργαστής πάσου μπορεί να ελέγξει ένα πεδίο. Ένας ιστότοπος βλέπει μια διεύθυνση εξόδου. Ένας πράκτορας λαμβάνει όποια πρόσβαση χορηγεί πραγματικά το περιβάλλον σύστημα. Και το άτομο από την αρχή είναι όποιος σας έστειλε το μήνυμα.

Ποιος εκτίθεται χωρίς να κάνει κλικ στο «Να επιτρέπεται»;

4:27 Η Apple προειδοποιεί ρητά και για την ιδιωτικότητά τους. Η άδειά σας μπορεί να εκθέσει μια συνομιλία που περιέχει δεδομένα κάποιου άλλου, και αυτοί ποτέ δεν πάτησαν το κουμπί «Να επιτρέπεται» σας. Ο τίτλος του Slashdot το αποκαλεί «αυξημένο κίνδυνο» Αυτός ο ευρύτερος κύκλος είναι ο λόγος που με νοιάζει. Η οθόνη άδειας πρέπει να εξηγεί τι θα λάβει ο βοηθός. Αν προτιμάτε να το διαβάσετε παρά να με ακούσετε να το λέω, το diff φτάνει στα εισερχόμενά σας κάθε πρωί, δωρεάν στο thedailydiff.dev, σύνδεσμος παρακάτω.

4:49 Έτσι η σημερινή ετυμηγορία, NEEDS REVIEW.

Ποια είναι η ετυμηγορία μου για τους προτεινόμενους ελέγχους της Apple;

4:51 Θέλω σαφέστερη συναίνεση και στενότερη πρόσβαση, με διατηρημένες νόμιμες ροές εργασίας. Η υλοποίηση της Apple θα αποφασίσει αν θα το προσφέρει. Εγγραφείτε, πατήστε το κουδούνι και πείτε μου στα σχόλια αν θα το είχατε σφραγίσει διαφορετικά. Και αυτό είναι το diff για σήμερα. Είμαι ο Νίκος από την Axrisi. Συγχωνεύστε υπεύθυνα.

Πηγές

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com