Τεχνητή νοημοσύνη στη συσκευή: πότε μένουν τα δεδομένα στο κινητό;

Δείχνετε στο κινητό μια φωτογραφία με μια πινακίδα και το κείμενο εμφανίζεται στην οθόνη, παρότι δεν έχετε σήμα. Αυτό μπορεί να συμβεί όταν η αναγνώριση γίνεται μέσα στη συσκευή. Δεν σημαίνει όμως ότι κάθε εργαλείο της ίδιας εφαρμογής, όπως μια μεγάλη περίληψη ή μια ερώτηση, θα λειτουργήσει επίσης χωρίς σύνδεση. Το κρίσιμο ερώτημα αφορά τη συγκεκριμένη λειτουργία που χρησιμοποιείτε.

Τι μπαίνει και τι βγαίνει από το μοντέλο

Στην αναγνώριση κειμένου, είσοδος είναι η εικόνα της κάμερας. Ένα μοντέλο που βρίσκεται στη μνήμη εξετάζει σχήματα στην εικόνα, ξεχωρίζει περιοχές που μοιάζουν με γράμματα και επιστρέφει το κείμενο στην οθόνη. Αν όλη αυτή η εργασία γίνεται τοπικά, η εικόνα δεν χρειάζεται να σταλεί σε διακομιστή για ανάλυση. Τα εργαλεία ML Kit της Google προσφέρουν τέτοιες λειτουργίες για εικόνες και κείμενο.

Το μοντέλο έχει προετοιμαστεί νωρίτερα με παραδείγματα. Όταν το χρησιμοποιείτε, εφαρμόζει όσα έχουν αποθηκευτεί στις νέες εισόδους, χωρίς να ξαναμαθαίνει όλο το έργο από την αρχή. Επειδή η μνήμη και η μπαταρία είναι περιορισμένες, οι δημιουργοί μπορούν να επιλέξουν μικρότερα μοντέλα ή να αποθηκεύσουν τους αριθμούς τους σε μικρότερη μορφή. Αυτή η συμπίεση μπορεί να μειώσει τις απαιτήσεις μνήμης, αλλά χρειάζεται δοκιμή ώστε να μην χαλάσει υπερβολικά το αποτέλεσμα.

Τοπική επεξεργασία δεν σημαίνει μηδενική αναμονή

Όταν δεν χρειάζεται διαδρομή προς διακομιστή και πίσω, αφαιρείται η καθυστέρηση του δικτύου. Η ίδια η επεξεργασία όμως απαιτεί χρόνο. Μια μεγάλη φωτογραφία ή μια μακρά ηχογράφηση μπορεί να επιβαρύνει την μπαταρία και να ζεστάνει τη συσκευή. Το αν η τοπική λύση είναι πιο γρήγορη εξαρτάται από την εργασία, το μοντέλο και το συγκεκριμένο τηλέφωνο. Δεν ισχύει μια καθολική υπόσχεση άμεσης απάντησης.

Η τοπική ανάλυση προσφέρει ένα σαφές όφελος: για τη συγκεκριμένη εργασία δεν είναι απαραίτητο να σταλεί η είσοδος σε ξένο υπολογιστή. Αυτό δεν περιγράφει όλες τις επικοινωνίες της εφαρμογής. Η Google λέει ότι το ML Kit επεξεργάζεται εισόδους και αποτελέσματα στη συσκευή, αλλά μπορεί να επικοινωνεί για ενημερώσεις μοντέλων και να στέλνει στοιχεία χρήσης. Επίσης, μια εφαρμογή μπορεί να συγχρονίζει ή να δημιουργεί αντίγραφα αρχείων για άλλους λόγους.

Τι αλλάζει όταν χρησιμοποιείται νέφος;

Η Apple εξηγεί ότι πολλά αιτήματα του Apple Intelligence γίνονται στη συσκευή όταν αυτό είναι δυνατό. Για πιο απαιτητικά αιτήματα μπορεί να χρησιμοποιήσει την υπηρεσία Private Cloud Compute. Επομένως, ακόμη και μέσα στο ίδιο προϊόν, η διαδρομή των δεδομένων μπορεί να αλλάζει ανάλογα με το αίτημα. Η υπηρεσία έχει δικές της δηλωμένες προστασίες, αλλά δεν πρόκειται για επεξεργασία που έμεινε εξ ολοκλήρου στο τηλέφωνο.

Αν ένα εργαλείο είναι σημαντικό για την ιδιωτικότητά σας, κοιτάξτε την περιγραφή της ίδιας της λειτουργίας και τις ρυθμίσεις της. Μην συμπεραίνετε από τη μάρκα ή από την ύπαρξη ειδικού επεξεργαστή ότι όλα γίνονται τοπικά. Ελέγξτε αν χρειάζεται πρώτη λήψη μοντέλου και αν η εργασία συνεχίζεται χωρίς δίκτυο. Ένα σύντομο δοκιμαστικό με απενεργοποιημένη σύνδεση δείχνει τι συμβαίνει στη δική σας έκδοση, όχι όμως ποιες άλλες πληροφορίες ενδέχεται να συγχρονίζονται.

Προσέξτε και το πρώτο άνοιγμα μιας λειτουργίας. Μερικά μοντέλα περιλαμβάνονται ήδη στην εφαρμογή, ενώ άλλα κατεβαίνουν όταν τα χρειαστείτε. Μια λειτουργία μπορεί λοιπόν να κάνει την ανάλυση τοπικά, αλλά να χρειάζεται αρχική σύνδεση για να εγκαταστήσει το μοντέλο. Αυτό δεν αναιρεί τον τοπικό τρόπο επεξεργασίας μετά την εγκατάσταση· εξηγεί γιατί μια δοκιμή χωρίς δίκτυο μπορεί αρχικά να αποτύχει.

Τέλος, κοιτάξτε και την ποιότητα της απάντησης. Αν το μοντέλο διάβασε αριθμούς από μια απόδειξη, συγκρίνετέ τους με την εικόνα πριν τους χρησιμοποιήσετε. Το πού έγινε ο υπολογισμός και το αν το αποτέλεσμα είναι σωστό είναι δύο διαφορετικά θέματα. Η κατανόηση αυτής της διάκρισης βοηθά να επιλέγετε λειτουργία ανάλογα με τη σύνδεση, τα δεδομένα και τη σημασία του λάθους.