Αλγοριθμική μεροληψία: γιατί τα υπολογιστικά συστήματα αναπαράγουν ανθρώπινες διακρίσεις

Γιατί οι μαθηματικές αποφάσεις δεν είναι πάντα τόσο αντικειμενικές όσο νομίζουμε

Είναι πολύ εύκολο να υποθέσουμε ότι οι υπολογιστές είναι απόλυτα δίκαιοι και αμερόληπτοι κριτές. Ένα μηχάνημα δεν νιώθει ζήλια, δεν έχει κακή διάθεση και δεν έχει προσωπικά συμφέροντα. Επομένως, όταν αναθέτουμε σε ένα πρόγραμμα να αξιολογήσει αιτήσεις για δουλειά ή αιτήματα τραπεζικών δανείων, πολλοί πιστεύουν ότι το αποτέλεσμα θα είναι απαλλαγμένο από κάθε είδους ανθρώπινη αδικία.

Η πραγματικότητα όμως είναι διαφορετική. Η τεχνητή νοημοσύνη δεν λειτουργεί στο κενό· μαθαίνει παρατηρώντας τον δικό μας ανθρώπινο κόσμο. Αν τα ιστορικά δεδομένα που δίνουμε στον υπολογιστή περιέχουν παλιές ανισότητες ή άδικους αποκλεισμούς, το σύστημα δεν θα καταλάβει ότι επρόκειτο για λάθη. Αντίθετα, θα θεωρήσει ότι αυτές οι διακρίσεις αποτελούν τον φυσικό κανόνα και θα τις εφαρμόσει πιστά σε κάθε μελλοντική του απόφαση.

Η αναλογία της παλιάς επιτροπής προσλήψεων και του αρχείου τριάντα ετών

Για να δείτε πώς δημιουργείται αυτή η παγίδα, φανταστείτε μια ιστορική εταιρεία που αποφασίζει να προσλάβει νέους υπαλλήλους. Η διοίκηση συστήνει μια παραδοσιακή επιτροπή και της αναθέτει να μελετήσει όλα τα βιογραφικά των ανθρώπων που πέτυχαν στην εταιρεία τα τελευταία τριάντα χρόνια.

Σε εκείνες τις περασμένες δεκαετίες, η συντριπτική πλειονότητα όσων προσλαμβάνονταν σε ηγετικές θέσεις προέρχονταν από δύο συγκεκριμένα πανεπιστήμια και ανήκαν στην ίδια στενή κοινωνική ομάδα, ενώ υποψήφιοι από άλλες περιοχές αποκλείονταν συστηματικά. Η επιτροπή εξετάζει αυτά τα παλιά στοιχεία και καταλήγει σε έναν αυθαίρετο κανόνα: 'Όποιος δεν έχει σπουδάσει σε αυτά τα δύο ιδρύματα δεν ταιριάζει στην κουλτούρα μας'. Όταν εμφανίζεται ένας εξαιρετικός νέος μηχανικός από ένα επαρχιακό πανεπιστήμιο, η επιτροπή απορρίπτει την αίτησή του αμέσως, όχι επειδή υστερεί σε γνώσεις, αλλά επειδή δεν ταιριάζει στο παλιό ιστορικό καλούπι.

Αυτό ακριβώς παθαίνουν τα αλγοριθμικά συστήματα όταν εκπαιδεύονται σε δεδομένα του παρελθόντος. Αν οι τράπεζες απέρριπταν συχνότερα αιτήματα δανείων από συγκεκριμένες γειτονιές, το λογισμικό μαθαίνει να απορρίπτει αυτόματα οποιονδήποτε ζει σε εκείνες τις περιοχές σήμερα. Ο υπολογιστής δεν έχει εμπάθεια, αλλά κληρονόμησε τις παλιές συνήθειες και τις εφαρμόζει μηχανικά με την επίφαση μιας δήθεν αλάνθαστης μαθηματικής ακρίβειας.

Πού επηρεάζει η αλγοριθμική μεροληψία την καθημερινή ζωή

Οι συνέπειες αυτών των σφαλμάτων δεν είναι θεωρητικές, αλλά αγγίζουν κρίσιμες στιγμές στη ζωή πραγματικών ανθρώπων:

• Αξιολόγηση βιογραφικών για εργασία: Αυτοματοποιημένα συστήματα μπορεί να βαθμολογούν χαμηλότερα αιτήσεις γυναικών ή ανθρώπων με διαφορετική καταγωγή αν το ιστορικό της εταιρείας προτιμούσε συγκεκριμένα προφίλ.
• Έγκριση τραπεζικών δανείων και πιστώσεων: Αλγόριθμοι μπορεί να αρνούνται δάνεια σε ικανούς νέους επιχειρηματίες βασιζόμενοι σε στατιστικά στοιχεία της γειτονιάς τους αντί για την πραγματική τους συνέπεια.
• Ιατρική διάγνωση και εκτίμηση κινδύνου: Συστήματα υγείας που εκπαιδεύτηκαν κυρίως σε δείγματα συγκεκριμένων πληθυσμών μπορεί να εμφανίζουν χαμηλότερη ακρίβεια διάγνωσης σε άλλες κοινωνικές ομάδες.
• Προγνωστικά συστήματα ασφάλειας και δικαιοσύνης: Προγράμματα που εκτιμούν την πιθανότητα παραβατικότητας μπορεί να στοχοποιούν δυσανάλογα συγκεκριμένες περιοχές λόγω πυκνότερης παλιάς αστυνόμευσης.

Τι σημαίνει αυτό για εσάς και πώς να διεκδικείτε δίκαιη μεταχείριση

Η αποδοχή των αποφάσεων μιας μηχανής δεν πρέπει να γίνεται παθητικά. Η γνώση ότι τα συστήματα κάνουν λάθη μάς δίνει το δικαίωμα να ζητάμε δικαιοσύνη:

• Ζητάτε πάντα ανθρώπινη επανεξέταση: Αν μια αίτησή σας για εργασία ή τραπεζική υπηρεσία απορριφθεί αυτόματα, έχετε το δικαίωμα να ζητήσετε επανεξέταση από έναν υπεύθυνο υπάλληλο.
• Απαιτείτε διαφάνεια στις δημόσιες υπηρεσίες: Υποστηρίξτε τη θέσπιση κανόνων που υποχρεώνουν τους δημόσιους φορείς να ελέγχουν τακτικά τους αλγορίθμους τους για πιθανές αδικίες.
• Ενθαρρύνετε τη διαφορετικότητα στις τεχνολογικές ομάδες: Όταν οι ομάδες που σχεδιάζουν τα προγράμματα αποτελούνται από ανθρώπους με διαφορετικές εμπειρίες, τα λάθη εντοπίζονται πολύ νωρίτερα.

Τα μαθηματικά είναι ένα πανίσχυρο εργαλείο, αλλά δεν διαθέτουν ηθική πυξίδα από μόνα τους. Η πραγματική δικαιοσύνη παραμένει πάντα ανθρώπινη ευθύνη, διασφαλίζοντας ότι η τεχνολογία λειτουργεί ως δύναμη ισότητας και όχι ως μηχανισμός διακρίσεων.