Παραίσθηση της ΤΝ (AI): γιατί τα υπολογιστικά μοντέλα δηλώνουν ψευδή γεγονότα με απόλυτη βεβαιότητα

Ρωτάτε ένα πρόγραμμα διαλόγου τεχνητής νοημοσύνης για μια ιστορική ημερομηνία, ένα απόσπασμα βιβλίου ή μια πρόταση για ένα τοπικό καφενείο. Μέσα σε λίγα δευτερόλεπτα, εμφανίζεται μια απάντηση. Ο λόγος ρέει αβίαστα, ο τόνος αποπνέει σιγουριά και οι λεπτομέρειες φαίνονται εντυπωσιακά συγκεκριμένες. Όταν όμως ελέγχετε τις πληροφορίες, ανακαλύπτετε κάτι απροσδόκητο: το ιστορικό γεγονός συνέβη σε διαφορετική χρονιά, ο συγγραφέας δεν έγραψε ποτέ αυτά τα λόγια και το καφενείο έχει κλείσει εδώ και μια δεκαετία. Η απάντηση φαινόταν πειστική επειδή διατυπώθηκε με αυθεντία, αλλά τα πραγματικά δεδομένα ήταν καθαρή επινόηση.

Στην έρευνα της τεχνητής νοημοσύνης, αυτό το φαινόμενο ονομάζεται παραίσθηση (τεχνικά AI hallucination) ή επινοημένη βεβαιότητα. Ο υπολογιστής δεν ονειροπολεί ούτε προσπαθεί να σας εξαπατήσει. Η ρίζα του ζητήματος βρίσκεται στον τρόπο κατασκευής των σύγχρονων γλωσσικών συστημάτων. Δεν λειτουργούν ως ερευνητικές βιβλιοθήκες ούτε φυλάσσουν διασταυρωμένα γεγονότα σε ψηφιακά συρτάρια αρχειοθέτησης. Αντιθέτως, είναι υπολογιστικά εργαλεία στατιστικής πρόβλεψης (πιθανοτικά μοντέλα κειμένου), σχεδιασμένα απλώς να υπολογίζουν ποια λέξη είναι πιο πιθανό να ακολουθήσει σε μια πρόταση.

Πρόβλεψη λέξεων αντί για ανάκτηση της πραγματικότητας

Όταν εισάγετε μια οδηγία, το σύστημα διασπά το μήνυμά σας σε μικρά κομμάτια λέξεων ή συλλαβές (γνωστά τεχνικά ως διακριτικά στοιχεία ή tokens). Συγκρίνει αυτά τα στοιχεία με στατιστικές συσχετίσεις που αντλήθηκαν από τεράστιες συλλογές ανθρώπινων κειμένων. Βήμα προς βήμα, ο αλγόριθμος αξιολογεί υποψήφιες λέξεις, βαθμολογώντας τες με βάση το πόσο φυσικά ολοκληρώνουν τη σκέψη. Βελτιστοποιεί τη γλωσσική ροή, τη συντακτική συνοχή και το ύφος. Ωστόσο, η αληθοφάνεια δεν ταυτίζεται με την αλήθεια. Επειδή το μοντέλο δεν μπορεί να παρατηρήσει τον φυσικό κόσμο, δεν ελέγχει ποτέ το παραγόμενο κείμενο απέναντι στην εμπειρική πραγματικότητα. Εάν ένα επινοημένο στοιχείο ακούγεται γραμματικά αρμονικό και ταιριαστό στο πλαίσιο, το σύστημα το παράγει με την ίδια ακριβώς σιγουριά που θα εξέφραζε μια αδιαμφισβήτητη αλήθεια.

Πού προκαλεί ουσιαστική ζημιά η εύγλωττη παραπλάνηση

Οι επινοημένοι ισχυρισμοί μπορεί να φαίνονται ακίνδυνοι στη δημιουργική γραφή, αλλά εγκυμονούν σοβαρούς κινδύνους όταν οι πολίτες βασίζονται σε ψηφιακούς βοηθούς για επαγγελματική καθοδήγηση. Στη νομική πρακτική, δικηγόροι έχουν καταθέσει δικόγραφα επικαλούμενοι δικαστικά προηγούμενα με ανύπαρκτους αριθμούς πινακίων, αποσπάσματα πραγματικών δικαστών και αληθοφανή ιστορικά αποφάσεων που τα αυτοματοποιημένα εργαλεία δημιούργησαν από το μηδέν. Στην εκπαίδευση, μαθητές και φοιτητές λαμβάνουν περιλήψεις που παραπέμπουν σε ανύπαρκτα επιστημονικά περιοδικά και φανταστικά βιβλία αποδιδόμενα σε υπαρκτούς καθηγητές. Στην ιατρική, τα λογισμικά αυτά μπορούν να συνδυάσουν πραγματικά συμπτώματα με εντελώς φανταστικές δοσολογίες φαρμάκων, προτείνοντας επικίνδυνες αγωγές με τον ήρεμο και αυθεντικό τόνο ενός έμπειρου επιστήμονα.

Σύνδεση των μοντέλων με πηγές αναζήτησης και ο ρυθμιστής δημιουργικότητας (θερμοκρασία)

Για να περιορίσουν τις αυθαίρετες απαντήσεις, οι μηχανικοί συνδέουν τα γλωσσικά μοντέλα με εξωτερικά δεδομένα μέσω τεχνικών αυτόματης αναζήτησης και άντλησης πραγματικών στοιχείων (διαδικασία γνωστή ως παραγωγή με ενισχυμένη ανάκτηση, Retrieval-Augmented Generation ή RAG). Αντί να βασίζεται αποκλειστικά σε εσωτερικά στατιστικά μοτίβα, το σύστημα συμβουλεύεται πρώτα ένα ζωντανό ευρετήριο αναζήτησης ή μια επιλεγμένη βάση πιστοποιημένων εγγράφων. Ανακτά συναφή πραγματικά αποσπάσματα και τα τροφοδοτεί απευθείας στην εντολή. Στη συνέχεια, το μοντέλο συνθέτει την απόκρισή του χρησιμοποιώντας αυστηρά αυτό το διασταυρωμένο υλικό, αγκυρώνοντας τον ρέοντα λόγο του σε πραγματικές πηγές.

Εσωτερικές ρυθμίσεις του συστήματος, όπως ο διακόπτης τυχαιότητας και δημιουργικής ελευθερίας (που ονομάζεται τεχνικά θερμοκρασία ή temperature), καθορίζουν επίσης την προβλεψιμότητα ελέγχοντας πόσο ασυνήθιστες θα είναι οι λέξεις που επιλέγονται. Όταν η θερμοκρασία ρυθμίζεται κοντά στο μηδέν, ο αλγόριθμος επιλέγει σε κάθε βήμα τις πιο αναμενόμενες και στατιστικά συνηθισμένες λέξεις, παράγοντας συντηρητικά και σταθερά κείμενα. Όταν η τιμή ανεβαίνει, το σύστημα αντλεί λέξεις από λιγότερο πιθανές επιλογές. Αυτή η ποικιλία προσφέρει ζωντάνια στην ποίηση ή στον καταιγισμό ιδεών, αυξάνει όμως ταυτόχρονα την πιθανότητα να παρεκκλίνει το μοντέλο και να επινοήσει αληθοφανή ψεύδη.

Καθοδήγηση της συνομιλίας με σαφή όρια και περιορισμούς

Μπορείτε επίσης να αποτρέψετε τις επινοήσεις αλλάζοντας τον τρόπο με τον οποίο διατυπώνετε τα ερωτήματά σας. Όταν υποβάλλετε ένα ανοιχτό αίτημα βασισμένο σε μια ανεπιβεβαίωτη υπόθεση, όπως το να ρωτήσετε ποιον νόμο για την ιδιωτικότητα ψήφισε ένα περιφερειακό κοινοβούλιο σε μια συγκεκριμένη χρονιά, το μοντέλο δέχεται συνομιλιακή πίεση να παραδώσει μια ολοκληρωμένη ιστορία. Μπορεί κάλλιστα να κατασκευάσει έναν λεπτομερή τίτλο νόμου και μια ανύπαρκτη κοινοβουλευτική συζήτηση απλώς για να ικανοποιήσει το αίτημα.

Συγκρίνετε τώρα αυτή την ανοιχτή ερώτηση με μια οδηγία που θέτει αυστηρά όρια: 'Σύνοψισε τις βασικές απαιτήσεις από την επίσημη ανακοίνωση που επικολλώ παρακάτω. Εάν η ανακοίνωση δεν αναφέρει συγκεκριμένη προθεσμία, δήλωσε ρητά ότι η ημερομηνία δεν παρέχεται'. Παρέχοντας απευθείας το κείμενο και δίνοντας την άδεια να δηλωθεί η απουσία πληροφορίας, αντικαθιστάτε την εικασία με κανόνες. Το μοντέλο συνοψίζει όσα υπάρχουν στο κείμενο αντί να αυτοσχεδιάζει για όσα λείπουν.

Πρακτικές συνήθειες για την καθημερινή χρήση

Η ασφαλής αξιοποίηση της παραγωγικής τεχνητής νοημοσύνης προϋποθέτει να αντιμετωπίζετε το λογισμικό ως δημιουργικό συνεργάτη και όχι ως αλάθητη μηχανή αλήθειας. Μπορείτε να το αξιοποιήσετε για να συντάξετε ένα μήνυμα, να οργανώσετε ιδέες για ένα άρθρο ή να βελτιώσετε μια δύσκολη παράγραφο. Όποτε όμως μια απάντηση περιέχει πραγματικούς ισχυρισμούς, ημερομηνίες, νομικές διατάξεις ή τεχνικές μετρήσεις, διασταυρώστε αυτά τα στοιχεία σε πρωτογενή έγγραφα, επίσημα αρχεία ή απευθείας ανακοινώσεις των φορέων.

Το σημαντικότερο είναι να μην ζητάτε ποτέ από το ίδιο το πρόγραμμα να επιβεβαιώσει την ακρίβεια των λεγομένων του. Όταν αμφισβητείται με ερωτήσεις όπως εάν υπάρχει πραγματικά ένα βιβλίο που ανέφερε, ένα μοντέλο χωρίς εξωτερική σύνδεση συχνά υφαίνει ένα δεύτερο επίπεδο φαντασίας, επινοώντας εκδοτικούς οίκους και αριθμούς σελίδων με το ίδιο πειστικό ύφος. Διατηρώντας τον έλεγχο των στοιχείων ανεξάρτητο, αξιοποιείτε τις γλωσσικές ικανότητες του συστήματος χωρίς να παρασύρεστε από τις στατιστικές του ψευδαισθήσεις.