Του Δρα Αντώνη Στ. Στυλιανού, Λέκτορα Νομικής στο Πανεπιστήμιο Λευκωσίας, LL.B Law (Bristol), Ph.D in Law – International Law and Human Rights (Kent), Διευθυντής Μονάδας Νομικής Κλινικής Πανεπιστημίου Λευκωσίας.
Η συζήτηση για την Τεχνητή Νοημοσύνη περιστρέφεται συνήθως γύρω από τις δυνατότητές της αλλά και τις προοπτικές της. Η ταχύτητα της επεξεργασίας της πληροφορίας, η αποτελεσματικότητά της, η αυτοματοποίηση των διαδικασιών, η ενίσχυση καίριων τομέων της καθημερινότητας μας, όπως είναι η υγεία, η εκπαίδευση, οι δημόσιες υπηρεσίες και η οικονομία, μεταξύ άλλων, αποτελούν τομείς στους οποίους η ΤΝ (ΑΙ) μπορεί κάλλιστα να συνδράμει και να ενισχύσει. Το τελευταίο χρονικό διάστημα προβάλλονται στη δημόσια συζήτηση οι κίνδυνοι της ΑΙ, με τους κολοσσούς στον τομέα να τους επισημαίνουν με ιδιαίτερα γλαφυρό τρόπο. Υπάρχει, επίσης, ένα διαφορετικό και εξίσου δύσκολο ερώτημα που αφορά στο τι συμβαίνει όταν η Τεχνητή Νοημοσύνη κάνει λάθος. Το παρόν άρθρο αναφέρεται στον συγκεκριμένο τομέα της διασύνδεσης της Τεχνητής Νοημοσύνης με τον τομέα των Ανθρωπίνων Δικαιωμάτων.
Το ερώτημα αποκτά ιδιαίτερη σημασία όταν ένας αλγόριθμος δεν προτείνει απλώς ένα τραγούδι ή μια ταινία, αλλά συμμετέχει σε αποφάσεις που αφορούν εργασία, κοινωνικά επιδόματα, τραπεζική χρηματοδότηση, αστυνόμευση, πρόσβαση σε δημόσιες υπηρεσίες ή αξιολόγηση προσώπων. Τότε το τεχνολογικό λάθος μπορεί να μετατραπεί σε προσβολή δικαιώματος.
Η διεθνής εμπειρία, μέχρι στιγμής, έχει δείξει ότι αλγοριθμικά συστήματα μπορούν να συνδεθούν με λανθασμένες εκτιμήσεις, διακρίσεις και αδιαφανείς αποφάσεις. Ιδιαίτερα προβληματική είναι η περίπτωση κατά την οποία ο πολίτης γνωρίζει το αποτέλεσμα μιας απόφασης, αλλά όχι τον τρόπο με τον οποίο αυτή προέκυψε. Το ζήτημα δεν είναι μόνο τεχνικό. Είναι βαθιά νομικό και θεσμικό, γιατί συνδέεται με την ίση μεταχείριση, την προστασία της ιδιωτικής ζωής, την ανθρώπινη αξιοπρέπεια και τη δυνατότητα αποτελεσματικής αμφισβήτησης μιας απόφασης. Υπάρχει, ακριβώς, διασύνδεση μεταξύ ιδιωτικότητας, μεροληψίας, διακρίσεων και δυσκολίας προσβολής αυτοματοποιημένων αποφάσεων.
Εδώ βρίσκεται ίσως η σημαντικότερη αλλαγή που επιφέρει η ΤΝ στη σχέση πολίτη και εξουσίας. Παραδοσιακά, απαιτούμε από τη δημόσια διοίκηση ή από έναν ιδιωτικό φορέα που λαμβάνει σημαντικές αποφάσεις να μπορεί να τις αιτιολογεί. Στην αλγοριθμική εποχή υπάρχει ο κίνδυνος να εμφανιστεί μια νέα μορφή «αόρατης εξουσίας», αφού το αποτέλεσμα υπάρχει, αλλά η διαδρομή προς αυτό παραμένει ακατανόητη ή απρόσιτη. Γι’ αυτό η ανθρώπινη εποπτεία δεν αποτελεί πολυτέλεια. Όταν μια αυτοματοποιημένη απόφαση παράγει σοβαρές συνέπειες, πρέπει να υπάρχει πραγματική δυνατότητα αμφισβήτησης, διόρθωσης και ανθρώπινης παρέμβασης. Ο πολίτης πρέπει να γνωρίζει ότι χρησιμοποιήθηκε ΤΝ, να έχει πρόσβαση σε ουσιαστική εξήγηση και να μπορεί να ζητήσει επανεξέταση. Το δικαίωμα προσβολής και διόρθωσης μιας επιζήμιας αυτοματοποιημένης απόφασης αποτελεί βασική προστατευτική αρχή.
Ταυτόχρονα, η προστασία δεν μπορεί να περιορίζεται στη στιγμή της τελικής απόφασης, αλλά πρέπει να αφορά ολόκληρο τον κύκλο ζωής του συστήματος - από τον σχεδιασμό, τα δεδομένα εκπαίδευσης, τη δοκιμή, την εφαρμογή και τη συνεχή παρακολούθησή του. Ένα σύστημα μπορεί να φαίνεται ουδέτερο, αλλά να αναπαράγει προκαταλήψεις που υπάρχουν στα δεδομένα πάνω στα οποία εκπαιδεύτηκε. Η απαίτηση αυτή έχει και προληπτική διάσταση. Όσοι αναπτύσσουν ή χρησιμοποιούν συστήματα ΤΝ οφείλουν να αξιολογούν εκ των προτέρων τις πιθανές επιπτώσεις τους, ιδίως όταν επεξεργάζονται ευαίσθητα δεδομένα ή λαμβάνουν αποφάσεις με σοβαρές συνέπειες. Η προστασία των δικαιωμάτων δεν μπορεί να μετατίθεται στο στάδιο της αποζημίωσης, όταν η βλάβη έχει ήδη επέλθει.
Η πρόκληση, επομένως, δεν είναι να επιλέξουμε ανάμεσα στην τεχνολογία και στα ανθρώπινα δικαιώματα αλλά να διασφαλίσουμε ότι η τεχνολογία υπηρετεί τα δικαιώματα. Σε ένα κράτος δικαίου δεν αρκεί μια απόφαση να είναι γρήγορη ή στατιστικά πιθανή. Πρέπει να είναι νόμιμη, ελέγξιμη και δίκαιη. Και το «το αποφάσισε ο αλγόριθμος» δεν μπορεί ποτέ να
αποτελεί επαρκή αιτιολογία.
