Deepfake: πώς τα αλλοιωμένα βίντεο κάνουν τους ανθρώπους να λένε όσα δεν είπαν ποτέ

Όταν η εικόνα στην οθόνη παύει να αποτελεί απόδειξη

Κάνετε κύλιση στα νέα του κινητού σας όταν ένα βίντεο τραβά αμέσως την προσοχή σας. Ένας πασίγνωστος παρουσιαστής ειδήσεων ή ένας κορυφαίος επιχειρηματίας κοιτάζει απευθείας τον φακό, καθαρίζει τη φωνή του και ανακοινώνει μια αποκλειστική επενδυτική ευκαιρία με εγγυημένα κέρδη. Η φωνή έχει τον γνώριμο ρυθμό του, τα χείλη κινούνται καθαρά και το βλέμμα του εκπέμπει απόλυτη σιγουριά. Πριν από λίγα χρόνια, η καταγραφή ενός ανθρώπου σε βίντεο αποτελούσε αδιάψευστη απόδειξη ότι πράγματι είπε αυτά τα λόγια. Σήμερα, ολόκληρη αυτή η σκηνή μπορεί να κατασκευαστεί σε έναν συνηθισμένο φορητό υπολογιστή μέσα σε λίγα λεπτά.

Αυτά τα κατασκευασμένα βίντεο ονομάζονται deepfakes, συνδυάζοντας το προηγμένο λογισμικό εκμάθησης μοτίβων (γνωστό στην τεχνολογία ως βαθιά μάθηση ή deep learning) με τα πλαστογραφημένα ψηφιακά μέσα. Αντί οι γραφίστες να σχεδιάζουν σκηνές καρέ-καρέ με το χέρι, τα σύγχρονα προγράμματα αναλύουν χιλιάδες βίντεο για να ανακατασκευάζουν πρόσωπα αυτόματα. Η τεχνολογία παράγει πειστικά αποτελέσματα, αλλά ο υπολογιστής δεν έχει ανθρώπινη αντίληψη. Λειτουργεί αποκλειστικά συγκρίνοντας μαθηματικά μοτίβα, παρακολουθώντας συντεταγμένες και συνθέτοντας χρώματα στην οθόνη (σύνθεση εικονοστοιχείων ή pixel synthesis).

Πώς το λογισμικό ανακατασκευάζει πρόσωπα καρέ-καρέ

Η διαδικασία ξεκινά με τον εντοπισμό και τη χαρτογράφηση των χαρακτηριστικών του προσώπου (facial landmarks). Μαθηματικές οδηγίες βήμα προς βήμα (αλγόριθμοι) σαρώνουν κάθε καρέ καταγράφοντας δεκάδες σημεία αναφοράς: γωνίες ματιών, ράχη μύτης, σαγόνι και χείλη. Οι συντεταγμένες αυτές σχηματίζουν ένα εύκαμπτο δικτυωτό πλέγμα (γνωστό ως ψηφιακό πλέγμα ή digital mesh). Όταν ο άνθρωπος που καθοδηγεί το βίντεο στρίβει το κεφάλι, ανοιγοκλείνει τα μάτια ή χαμογελά, το πλέγμα προσαρμόζεται άμεσα, αποτυπώνοντας την ακριβή γεωμετρία της κίνησης.

Στη συνέχεια, ένα ειδικό ψηφιακό δίκτυο δημιουργίας εικόνων (παραγωγικό νευρωνικό δίκτυο ή generative neural network) σχεδιάζει νέα εικόνα πάνω στο κινούμενο πλέγμα. Μελετώντας φωτογραφίες του προσώπου-στόχου, μαθαίνει πώς αντανακλάται το φως, πώς διπλώνει το δέρμα και πώς κινούνται τα δόντια στην ομιλία. Καρέ-καρέ, συνθέτει το νέο πρόσωπο, ταιριάζει τον φωτισμό και απαλύνει τα εξωτερικά όρια (τεχνική που ονομάζεται σβήσιμο ακμών ή feathering edges), ώστε το συνθετικό τμήμα να ενώνεται φυσικά με το δέρμα και τα μαλλιά.

Σε συστήματα καθοδηγούμενα από ήχο, δεν απαιτείται καν ανθρώπινος ηθοποιός. Εξειδικευμένα προγράμματα αναλύουν τα ηχητικά κύματα της ηχογραφημένης φωνής (φωνητικά κυματογραφήματα ή speech waveforms), υπολογίζουν τις κινήσεις των χειλιών για κάθε συλλαβή και κινούν ανάλογα το πρόσωπο. Φωνή και εικόνα συγχρονίζονται, δημιουργώντας ένα συνθετικό αποτέλεσμα που δεν συνέβη ποτέ στην πραγματικότητα.

Επιφανειακές εντυπώσεις απέναντι σε επαληθευμένα γεγονότα

Σκεφτείτε πώς δύο διαφορετικοί θεατές αξιολογούν το ίδιο ακριβώς viral βίντεο στο διαδίκτυο:

• Ο επιφανειακός θεατής: Παρακολουθεί ένα σύντομο βίντεο στο κινητό μέσα σε θόρυβο. Ο εντυπωσιακός ισχυρισμός προκαλεί έκπληξη και το γνώριμο πρόσωπο φαίνεται αληθινό. Κοινοποιεί αμέσως το απόσπασμα, υποθέτοντας λανθασμένα ότι η κάμερα δεν μπορεί ποτέ να λέει ψέματα.
• Ο υποψιασμένος θεατής: Ελέγχει το πλαίσιο. Παρατηρεί την έλλειψη χρονικής σήμανσης, την απουσία αναφοράς σε αξιόπιστο μέσο και την προέλευση από ανώνυμο λογαριασμό. Αναζητώντας ειδήσεις, διαπιστώνει ότι δεν υπάρχει καμία επίσημη κάλυψη, αποκαλύπτοντας την πλαστογραφία.

Η παγίδα της αναζήτησης μεμονωμένων οπτικών λαθών

Τα πρώτα deepfakes είχαν έντονα λάθη, όπως αφύσικο βλεφάρισμα ή παραμορφωμένα δόντια. Όμως το να ψάχνει κανείς μόνο για οπτικές ατέλειες δεν αρκεί πλέον, για δύο βασικούς λόγους.

Πρώτον, τα μοντέλα βελτιώνονται διαρκώς, αποδίδοντας ρεαλιστικές υφές, βλέμματα και αντανακλάσεις. Δεύτερον, η συμπίεση στα μέσα κοινωνικής δικτύωσης παραμορφώνει την εικόνα. Όταν ένα βίντεο αναρτάται σε πλατφόρμες, η συμπίεση θολώνει τα περιγράμματα και προσθέτει ψηφιακό κόκκο (γνωστό ως ίχνη συμπίεσης ή compression artifacts). Ένα θολό σημείο οφείλεται συχνά στο μέγεθος του αρχείου και όχι σε επέμβαση. Αντίστοιχα, η συμπίεση μπορεί να σβήσει τις ανεπαίσθητες λεπτομέρειες που αναζητούν τα ειδικά εργαλεία ανίχνευσης.

Έρευνες του Εθνικού Ινστιτούτου Προτύπων και Τεχνολογίας των ΗΠΑ (NIST) στο πλαίσιο της πρωτοβουλίας Open Media Forensics Challenge επιβεβαιώνουν ότι η ανίχνευση παραποιημένων μέσων είναι μια διαρκής τεχνολογική πρόκληση. Εξειδικευμένα εργαλεία εξετάζουν τα ανεπαίσθητα ηλεκτρονικά αποτυπώματα της κάμερας (θόρυβος αισθητήρα ή sensor noise) και τη συνέπεια του φωτός, αλλά το ανθρώπινο μάτι δεν αρκεί από μόνο του για ασφαλή συμπεράσματα.

Πρακτικές συνήθειες στην εποχή του συνθετικού βίντεο

Επειδή τα εικονοστοιχεία δεν εγγυώνται τη γνησιότητα, η πραγματική ασφάλεια βασίζεται στον έλεγχο των συνθηκών γύρω από το μήνυμα:

• Ελέγχετε την πηγή και τη διάδοση: Επίσημες δηλώσεις δημοσίων προσώπων δημοσιεύονται σε έγκυρα ειδησεογραφικά δίκτυα και επίσημες ιστοσελίδες, όχι αποκλειστικά σε μεμονωμένα προφίλ κοινωνικών δικτύων.
• Επαληθεύετε επείγουσες εκκλήσεις από ξεχωριστή γραμμή: Αν λάβετε βίντεο συγγενή που ζητά απεγνωσμένα χρήματα, μην πληρώνετε υπό πίεση. Κλείστε την εφαρμογή και καλέστε τον άμεσα στον αποθηκευμένο αριθμό του για να επιβεβαιώσετε αν είναι ασφαλής.
• Αναγνωρίστε την κατασκευασμένη βιασύνη: Οι απάτες βασίζονται στον ξαφνικό πανικό για να παρακάμψουν την κρίση σας. Κάθε τεχνητή πίεση χρόνου αποτελεί σήμα για να σταματήσετε και να διασταυρώσετε τα γεγονότα.

Το συνθετικό βίντεο προσφέρει δημιουργικές δυνατότητες στον κινηματογράφο και τη μετάφραση, αλλάζει όμως τον τρόπο που αξιολογούμε όσα βλέπουμε. Δεν απαιτούνται ειδικές γνώσεις πληροφορικής για να προστατευτείτε. Αντικαθιστώντας τη συναισθηματική βιασύνη με την ψύχραιμη επαλήθευση των πηγών, παραμένετε ασφαλείς απέναντι στην ψηφιακή παραπλάνηση.