Ένα εκατομμύριο tokens: πώς το Gemini διαβάζει ολόκληρα βιβλία και χιλιάδες γραμμές κώδικα με τη μία

Έχετε ένα PDF 500 σελίδων γεμάτο συμβόλαια και ψάχνετε πού αναφέρεται το μίσθωμα ενός ακινήτου. Μέχρι πρόσφατα, θα έπρεπε να το διαβάσετε σελίδα-σελίδα ή να ελπίζετε ότι κάποια μηχανή αναζήτησης θα εντόπιζε τη λέξη. Σήμερα, μπορείτε να ανεβάσετε ολόκληρο το αρχείο σε ένα εργαλείο τεχνητής νοημοσύνης και να ρωτήσετε απευθείας: «Σε ποιο κεφάλαιο αναφέρεται το συμβόλαιο μίσθωσης και ποιο ήταν το ποσό;». Η απάντηση έρχεται με παραπομπή στο σωστό σημείο, χωρίς να χρειαστεί να διαβάσετε εσείς ούτε μία σελίδα.

Αυτό που κάνει τη διαφορά δεν είναι κάποια μαγική ικανότητα κατανόησης, αλλά το πόσο κείμενο μπορεί να κρατήσει το μοντέλο «στο τραπέζι» την ώρα που συζητά μαζί σας. Το Gemini, στην έκδοσή του με το μεγάλο παράθυρο συμφραζομένων, φτάνει περίπου το 1 εκατομμύριο tokens — μια μονάδα που αντιστοιχεί χονδρικά σε λέξεις ή κομμάτια λέξεων. Στην πράξη, αυτό σημαίνει γύρω στις 750.000 λέξεις, δηλαδή ένα βιβλίο 1.500 σελίδων ή ένα ολόκληρο αποθετήριο κώδικα.

Τι είναι τα tokens και γιατί μετράνε

Όταν γράφετε ή ανεβάζετε ένα κείμενο, το μοντέλο δεν το βλέπει ως προτάσεις και παραγράφους. Το σπάει σε μικρά κομμάτια, τα tokens. Μια συνηθισμένη λέξη μπορεί να είναι ένα token, ενώ μια πιο σπάνια ή σύνθετη μπορεί να χωριστεί σε δύο ή τρία. Τα σημεία στίξης, οι αριθμοί και ακόμη και τα κενά μετρούν επίσης. Έτσι, όταν λέμε «1 εκατομμύριο tokens», μιλάμε για ένα τεράστιο κείμενο που χωράει ταυτόχρονα στη μνήμη του μοντέλου.

Η διαφορά με τα περισσότερα συστήματα είναι εντυπωσιακή. Ένα τυπικό μοντέλο συνομιλίας κρατά περίπου 128.000 tokens, δηλαδή ένα εκτενές άρθρο ή ένα μικρό βιβλίο. Το Gemini με το παράθυρο του 1 εκατομμυρίου tokens μπορεί να συγκρατήσει ολόκληρα μυθιστορήματα, οδηγούς χρήσης, νομικά έγγραφα ή χιλιάδες γραμμές κώδικα. Όταν κάνετε μια ερώτηση, το μοντέλο δεν ψάχνει σε εξωτερικές πηγές· συμβουλεύεται ό,τι του έχετε δώσει, σαν να είχε μπροστά του όλα τα χαρτιά ανοιχτά.

Πώς βρίσκει μια λέξη μέσα σε χιλιάδες σελίδες

Φανταστείτε έναν αναγνώστη που κρατά στο μυαλό του ολόκληρο το βιβλίο. Όταν του ζητάτε να βρει πού αναφέρεται ένα συγκεκριμένο γεγονός, δεν ξεφυλλίζει από την αρχή. Έχει ήδη μια εικόνα για το πού βρίσκεται τι. Κάτι ανάλογο συμβαίνει και με το μεγάλο παράθυρο συμφραζομένων: το μοντέλο μπορεί να εντοπίσει μια λεπτομέρεια θαμμένη στη μέση ενός τεράστιου κειμένου, αρκεί να του ζητήσετε να την αναζητήσει. Οι δοκιμές που δημοσιεύει η Google δείχνουν ότι η ανάκτηση πληροφορίας από το μέσο ενός πολύ μεγάλου κειμένου λειτουργεί αξιόπιστα, αν και όχι πάντα με την ίδια ευκολία όπως σε μικρότερα κείμενα.

Αυτό αλλάζει τον τρόπο που μπορείτε να δουλέψετε. Αντί να κόβετε ένα έγγραφο σε δεκάδες μικρά αποσπάσματα, μπορείτε να ανεβάσετε ολόκληρο το αρχείο και να κάνετε ερωτήσεις που συνδυάζουν πληροφορίες από διαφορετικά σημεία. Για παράδειγμα, σε έναν κώδικα, μπορείτε να ρωτήσετε πώς μια συνάρτηση στο πρώτο αρχείο επηρεάζει μια άλλη στο τελευταίο. Το μοντέλο έχει πρόσβαση σε όλα τα αρχεία ταυτόχρονα και μπορεί να συσχετίσει όσα διάβασε.

Πού ακόμη δυσκολεύεται

Η μεγάλη μνήμη δεν σημαίνει ότι το μοντέλο θυμάται τα πάντα τέλεια. Όταν το κείμενο είναι πολύ μεγάλο, μπορεί να χρειαστεί λίγα δευτερόλεπτα παραπάνω για να το επεξεργαστεί πριν αρχίσει να απαντά. Επίσης, αν το κείμενο είναι γραμμένο σε δύσκολη γλώσσα ή περιέχει πολλούς τεχνικούς όρους, η ανάκτηση μπορεί να μην είναι τόσο ακριβής. Και, όπως συμβαίνει με κάθε σύστημα τεχνητής νοημοσύνης, υπάρχει πάντα η πιθανότητα να παραλείψει μια λεπτομέρεια ή να την ερμηνεύσει λανθασμένα. Γι' αυτό, σε κρίσιμες αποφάσεις, καλό είναι να ελέγχετε την απάντηση στο πρωτότυπο κείμενο.

Ένα ακόμη σημείο που αξίζει προσοχή είναι το απόρρητο. Όταν ανεβάζετε ένα έγγραφο σε μια υπηρεσία τεχνητής νοημοσύνης, αυτό μπορεί να αποθηκευτεί ή να χρησιμοποιηθεί για βελτίωση του μοντέλου, ανάλογα με τις ρυθμίσεις του λογαριασμού σας. Στο Google AI Studio και σε επαγγελματικούς λογαριασμούς, η Google δηλώνει ότι εφαρμόζονται αυστηρότεροι κανόνες προστασίας. Στην προσωπική χρήση, αξίζει να ελέγξετε τις ρυθμίσεις δραστηριότητας του λογαριασμού σας πριν ανεβάσετε ευαίσθητα έγγραφα.

Τι σημαίνει αυτό για την καθημερινή χρήση

Για έναν φοιτητή, σημαίνει ότι μπορεί να ανεβάσει ολόκληρο το σύγγραμμα και να ζητήσει μια σύνοψη ή να ρωτήσει για μια έννοια που δεν κατάλαβε. Για έναν δικηγόρο, σημαίνει ότι μπορεί να συμβουλευτεί έναν τόμο νομοθεσίας χωρίς να τον διαβάσει ολόκληρο. Για έναν προγραμματιστή, σημαίνει ότι μπορεί να ζητήσει εξηγήσεις για ένα ολόκληρο έργο κώδικα. Το κοινό νήμα είναι η δυνατότητα να κάνετε ερωτήσεις σε ένα σώμα κειμένου που μέχρι τώρα ήταν πολύ μεγάλο για να το κρατήσει ένα πρόγραμμα.

• Ανεβάστε ένα PDF ή ένα αρχείο κειμένου και ζητήστε συγκεκριμένες πληροφορίες, όπως «σε ποια σελίδα αναφέρεται το ποσό;».
• Συνδυάστε πολλά αρχεία ταυτόχρονα και ζητήστε συσχετίσεις, π.χ. «πώς συνδέεται το κεφάλαιο 3 με το παράρτημα Β;».
• Για κώδικα, ζητήστε να εντοπιστεί ένα σφάλμα ή να εξηγηθεί η ροή δεδομένων από το ένα αρχείο στο άλλο.
• Ελέγχετε πάντα την απάντηση στο πρωτότυπο, ειδικά όταν πρόκειται για νομικά, ιατρικά ή οικονομικά ζητήματα.

Η μεγάλη μνήμη του Gemini δεν είναι απλώς ένα τεχνικό επίτευγμα. Αλλάζει τον τρόπο που μπορούμε να συνεργαστούμε με ένα πρόγραμμα: αντί να του δίνουμε μικρά κομμάτια, του εμπιστευόμαστε ολόκληρα έργα. Το κέρδος είναι χρόνος και ευκολία, αλλά η ευθύνη της επαλήθευσης παραμένει δική μας. Όσο πιο μεγάλο το κείμενο, τόσο πιο χρήσιμο να ξέρουμε πού να κοιτάξουμε για να επιβεβαιώσουμε.