Πιστωτική βαθμολόγηση με ΤΝ (AI): Πώς οι αλγόριθμοι αξιολογούν τα δάνεια και ποια είναι τα δικαιώματά σας;

Κάνετε αίτηση για ένα στεγαστικό δάνειο, μια πιστωτική κάρτα ή τη χρηματοδότηση ενός επαγγελματικού σχεδίου και, αντί να συνομιλήσετε με έναν διευθυντή καταστήματος που θα εξετάσει την περίπτωσή σας, λαμβάνετε μια αυτοματοποιημένη απάντηση μέσα σε ελάχιστα λεπτά. Πίσω από αυτή την αστραπιαία ετυμηγορία βρίσκεται ο αυτοματοποιημένος υπολογισμός πιστωτικής αξιοπιστίας (αλγοριθμική βαθμολόγηση πίστωσης ή credit scoring). Η τεχνολογία υπόσχεται ταχύτητα και αντικειμενικότητα, αλλά για πολλούς πολίτες μοιάζει με έναν αδιαπέραστο τοίχο που αποφασίζει για το οικονομικό τους μέλλον χωρίς καμία εξήγηση.

Για να κατανοήσουμε πώς λειτουργεί η βαθμολόγηση, πρέπει να δούμε τι τροφοδοτείται στον υπολογιστή. Παλαιότερα, οι τράπεζες κοιτούσαν απλώς το ιστορικό παλαιότερων δανείων και το εκκαθαριστικό της εφορίας. Σήμερα, τα σύγχρονα μοντέλα μηχανικής μάθησης αναλύουν χιλιάδες επιπλέον μεταβλητές, συμπεριλαμβανομένων των πληρωμών λογαριασμών κοινής ωφέλειας, των εξόδων σε κάρτες και της συνέπειας σε συνδρομές (εναλλακτικά δεδομένα συμπεριφοράς). Το πρόβλημα ξεκινά όταν αυτά τα συστήματα λειτουργούν ως μοντέλα κλειστού τύπου (μοντέλα μαύρου κουτιού ή black-box models), όπου ούτε οι ίδιοι οι τραπεζικοί υπάλληλοι δεν μπορούν να εξηγήσουν ποιος ακριβώς παράγοντας οδήγησε στην απόρριψη.

Στην Ελλάδα, το σύστημα της Τειρεσίας τηρεί συγκεκριμένα αρχεία οικονομικής συμπεριφοράς και ακάλυπτων επιταγών, αλλά οι σύγχρονες τράπεζες συνδυάζουν αυτά τα αρχεία με εσωτερικά αλγοριθμικά σκορ. Ένα υπολογιστικό μοντέλο εξετάζει παλαιότερες περιπτώσεις για να υπολογίσει μια στατιστική πιθανότητα κινδύνου, χωρίς ωστόσο να γνωρίζει τις πραγματικές ανθρώπινες συνθήκες ή τις προοπτικές του κάθε αιτούντος.

Κίνδυνοι διακρίσεων και αλγοριθμικής μεροληψίας

Επειδή τα υπολογιστικά μοντέλα εκπαιδεύονται σε ιστορικά δεδομένα δεκαετιών, έχουν την τάση να αναπαράγουν παλαιότερες κοινωνικές ανισότητες (αλγοριθμική μεροληψία ή algorithmic bias). Εάν στο παρελθόν κάτοικοι συγκεκριμένων γειτονιών ή νεότεροι εργαζόμενοι σε ευέλικτες μορφές απασχόλησης αντιμετωπίζονταν με δυσπιστία, ο αλγόριθμος μπορεί να τιμωρήσει έναν απόλυτα φερέγγυο σημερινό αιτούντα απλώς επειδή το προφίλ του μοιάζει στατιστικά με μια ομάδα υψηλού κινδύνου (στατιστικές συσχετίσεις χωρίς πραγματική αιτιώδη σχέση ή spurious correlations).

Τα τελευταία χρόνια αναπτύσσονται νέα υπολογιστικά μοντέλα με διαφανή λειτουργία (εξηγήσιμη τεχνητή νοημοσύνη ή explainable AI). Σε αυτά τα συστήματα, ο υπολογιστής υποχρεούται να αναφέρει ξεκάθαρα ποιοι συγκεκριμένοι παράγοντες επηρέασαν θετικά ή αρνητικά τη βαθμολογία, όπως για παράδειγμα το ύψος των υφιστάμενων οφειλών ή το ιστορικό έγκαιρης αποπληρωμής λογαριασμών.

Αυτή η διαφάνεια προσφέρει στον πολίτη έναν πρακτικό οδικό χάρτη: αντί να παλεύει με έναν αόρατο ψηφιακό εχθρό, μαθαίνει ποιες συνήθειες χρειάζεται να βελτιώσει σταδιακά —όπως τη μείωση του υπολοίπου των πιστωτικών καρτών— για να ενισχύσει τη φερεγγυότητά του μελλοντικά.

Τα θεσμοθετημένα δικαιώματά σας απέναντι στους αλγορίθμους

Στην Ευρωπαϊκή Ένωση και στην Ελλάδα, ο πολίτης δεν είναι ανυπεράσπιστος απέναντι στις αυτοματοποιημένες τραπεζικές αποφάσεις. Ο Γενικός Κανονισμός Προστασίας Δεδομένων (GDPR) κατοχυρώνει θεμελιώδη δικαιώματα διαφάνειας:

• Δικαίωμα σε σαφή εξήγηση — έχετε το νόμιμο δικαίωμα να ζητήσετε γραπτή ενημέρωση για τα βασικά κριτήρια και τα δεδομένα που οδήγησαν στον υπολογισμό του βαθμού σας (δικαίωμα εξήγησης κατά το GDPR).
• Δικαίωμα σε ανθρώπινη παρέμβαση — κανένας πολίτης δεν επιτρέπεται να υπόκειται σε απόφαση με σημαντικές οικονομικές συνέπειες που λαμβάνεται αποκλειστικά από μηχανή, έχοντας δικαίωμα να απαιτήσει εξέταση από άνθρωπο (αρχή ανθρώπινης παρέμβασης ή human-in-the-loop).
• Δικαίωμα αμφισβήτησης και διόρθωσης λαθών — εάν η βαθμολογία σας βασίστηκε σε λανθασμένα ή παρωχημένα δεδομένα στο τραπεζικό ιστορικό, η τράπεζα υποχρεούται να τα διορθώσει άμεσα.
• Προστασία από ευαίσθητα δεδομένα — απαγορεύεται αυστηρά η χρήση στοιχείων υγείας, φυλετικής προέλευσης, πολιτικών πεποιθήσεων ή προσωπικών συνομιλιών για τη βαθμολόγηση πίστωσης.

Η οικονομική αξιολόγηση πρέπει να υπηρετεί τη διαφάνεια και τη δικαιοσύνη. Η γνώση των δικαιωμάτων σας εξασφαλίζει ότι η τεχνολογία παραμένει ένα χρήσιμο εργαλείο υπολογισμού και όχι ένας ανεξέλεγκτος κριτής των ονείρων και των σχεδίων σας.