Όταν αποφασίζει ο αλγόριθμος: ποιος προστατεύει τον πολίτη;
GDPR, Τεχνητή Νοημοσύνη και οι νομικές κόκκινες γραμμές απέναντι στη μετατροπή της πιστοληπτικής αξιολόγησης σε κοινωνική βαθμολόγηση
Στο πρώτο μέρος είδαμε τι αλλάζει με το νέο Σύστημα Πιστοληπτικής Αξιολόγησης. Το κράτος δεν περιορίζεται πλέον στην καταγραφή οικονομικών δεδομένων. Τα επεξεργάζεται, τα συσχετίζει και, με τη βοήθεια στατιστικών μεθόδων και αλγορίθμων μηχανικής μάθησης, κατατάσσει τον πολίτη σε πιστοληπτική βαθμίδα.
Είδαμε επίσης κάτι ακόμη σημαντικότερο: ότι ο ίδιος ο ν. 4972/2022 προβλέπει μηχανισμούς μελλοντικής τροποποίησης τόσο των δεδομένων οικονομικής συμπεριφοράς, όσο και των σκοπών για τους οποίους μπορεί να χρησιμοποιείται η βαθμολόγηση.
Από εκεί και πέρα όμως αρχίζει ένα διαφορετικό ερώτημα. Τι συμβαίνει όταν ο αλγόριθμος κάνει λάθος; Ποιος μπορεί να αμφισβητήσει την κρίση του; Μπορεί ο πολίτης να μάθει γιατί βαθμολογήθηκε με C αντί για Β; Μπορεί μια απόφαση που επηρεάζει ουσιαστικά τη ζωή του να λαμβάνεται αποκλειστικά από μια μηχανή;
Και, κυρίως, υπάρχει ένα σημείο πέρα από το οποίο η οικονομική αξιολόγηση παύει να αποτελεί νόμιμο credit scoring και μετατρέπεται σε κάτι διαφορετικό: σε κοινωνική βαθμολόγηση του ανθρώπου; Εδώ πλέον δεν μιλάμε για τεχνολογία. Μιλάμε για δικαιώματα.
1. Ο αλγόριθμος δεν βρίσκεται υπεράνω του νόμου
Ας ξεκινήσουμε από μία βασική παραδοχή. Το γεγονός ότι μια απόφαση παράγεται από έναν αλγόριθμο δεν την καθιστά ούτε αντικειμενική ούτε αλάνθαστη. Ο αλγόριθμος λειτουργεί με τα δεδομένα που του δίνουμε και με τα κριτήρια που έχουν επιλέξει οι άνθρωποι που τον σχεδίασαν. Αν τα δεδομένα είναι λανθασμένα, η βαθμολογία μπορεί να είναι λανθασμένη. Αν είναι παρωχημένα, το αποτέλεσμα μπορεί να περιγράφει έναν άνθρωπο που δεν υπάρχει πλέον οικονομικά. Και αν τα κριτήρια δεν αποτυπώνουν σωστά την πραγματικότητα, η μαθηματική ακρίβεια του αποτελέσματος δεν θεραπεύει το πρόβλημα.
Γι' αυτό ο GDPR δεν αντιμετωπίζει την αυτοματοποιημένη λήψη αποφάσεων ως ένα απλό τεχνικό ζήτημα. Το άρθρο 22 κατοχυρώνει, υπό τις προϋποθέσεις που τάσσει, το δικαίωμα του προσώπου να μην υπόκειται σε απόφαση που βασίζεται αποκλειστικά σε αυτοματοποιημένη επεξεργασία, περιλαμβανομένης της κατάρτισης προφίλ, όταν αυτή παράγει έννομα αποτελέσματα ή το επηρεάζει σημαντικά με παρόμοιο τρόπο.
Υπάρχουν βέβαια εξαιρέσεις. Η αυτοματοποιημένη απόφαση μπορεί να επιτρέπεται, για παράδειγμα, όταν είναι αναγκαία για σύμβαση, όταν προβλέπεται από το δίκαιο με κατάλληλες εγγυήσεις ή όταν στηρίζεται στη ρητή συγκατάθεση του προσώπου.
Αλλά ακόμη και τότε δεν εξαφανίζονται τα δικαιώματα του ανθρώπου. Και εδώ βρίσκεται η πρώτη θεμελιώδης αρχή: η χρήση αλγορίθμου δεν δημιουργεί μια ζώνη χωρίς δίκαιο.
2. «Το έβγαλε το σύστημα» δεν μπορεί να είναι απάντηση...........
Περισσότερα στο ιστολόγιο https://eksodos.gr/index.php/el/ilektroniki-taftotita-2/pistoliptiki-aksiologisi2
