Του Δρα Αντώνη Στ. Στυλιανού, Λέκτορα Νομικής στο Πανεπιστήμιο Λευκωσίας, LL.B Law (Bristol), Ph.D in Law – International Law and Human Rights (Kent), Διευθυντής Μονάδας Νομικής Κλινικής Πανεπιστημίου Λευκωσίας.
Μια αίτηση απορρίπτεται. Ένας εργαζόμενος αξιολογείται. Ένας πολίτης κατατάσσεται ως υψηλού κινδύνου. Μια πλατφόρμα αποφασίζει ποια πληροφορία θα δει και ποια όχι. Σε όλες αυτές τις περιπτώσεις μπορεί να παρεμβαίνει ένα σύστημα Τεχνητής Νοημοσύνης. Το κρίσιμο ερώτημα είναι: γνωρίζει ο άνθρωπος ότι αυτό συμβαίνει και μπορεί να καταλάβει γιατί;
Στην εποχή της Τεχνητής Νοημοσύνης, η διαφάνεια δεν είναι απλώς μια καλή πρακτική. Μετατρέπεται σε θεμελιώδη εγγύηση προστασίας του πολίτη. Δεν μπορούμε να αμφισβητήσουμε ουσιαστικά μια απόφαση εάν δεν γνωρίζουμε ότι χρησιμοποιήθηκε ΑΙ. Και δεν μπορούμε να ελέγξουμε μια απόφαση εάν αγνοούμε τα βασικά κριτήρια που οδήγησαν σε αυτήν. Η ανάγκη αυτή είναι ιδιαίτερα έντονη όταν αυτοματοποιημένα συστήματα επηρεάζουν την πρόσβαση σε επιδόματα, δάνεια, εργασία, εκπαίδευση ή άλλες ουσιώδεις υπηρεσίες. Εκεί, η διαφάνεια συνδέεται άμεσα με την αξιοπιστία, την προβλεψιμότητα και τη νομιμότητα. Το υπό μελέτη πλαίσιο επισημαίνει ότι σε περιπτώσεις όπως η χορήγηση δανείων ή επιδομάτων είναι κρίσιμο να είναι κατανοητά τα κριτήρια αξιολόγησης και η συμβατότητά τους με τις νομικές απαιτήσεις.
Αυτό δεν σημαίνει ότι κάθε εταιρεία ή δημόσια αρχή οφείλει να δημοσιοποιεί τον πηγαίο κώδικα ή εμπορικά απόρρητα. Η διαφάνεια δεν ταυτίζεται με την απόλυτη αποκάλυψη. Ακόμη και όταν υπάρχουν νόμιμοι περιορισμοί λόγω πνευματικής ιδιοκτησίας, εμπορικής εμπιστευτικότητας ή κρατικής ασφάλειας, πρέπει να υφίσταται επαρκής δυνατότητα ελέγχου, τουλάχιστον από αρμόδιες εποπτικές αρχές. Εδώ αναδεικνύεται η έννοια του «δικαιώματος στην εξήγηση». Δεν αρκεί μια τυπική ενημέρωση ότι «η απόφαση ελήφθη με τη βοήθεια ΤΝ». Η εξήγηση πρέπει να είναι κατανοητή, ουσιαστική και σχετική με τις συνέπειες που
υφίσταται ο πολίτης. Διαφορετικά, η διαφάνεια κινδυνεύει να καταντήσει μια ακόμη νομική φόρμουλα χωρίς πρακτική αξία.
Η ίδια λογική ισχύει και στην προστασία προσωπικών δεδομένων. Όταν ένα σύστημα ΑΙ συλλέγει, αναλύει ή συνδυάζει προσωπικές πληροφορίες, ο πολίτης πρέπει να γνωρίζει γιατί αυτές συλλέγονται, για ποιο σκοπό χρησιμοποιούνται και σε ποιους ενδέχεται να διαβιβαστούν. Το ίδιο το κείμενο υπογραμμίζει ότι η επεξεργασία πρέπει να γίνεται ανοικτά και με διαφανείς μεθόδους, παρέχοντας πληροφορίες για τον τρόπο και τον σκοπό χρήσης των δεδομένων. Υπάρχει, επομένως, και μια θεσμική ευθύνη ενημέρωσης. Η χρήση ΤΝ από το κράτος, τις τράπεζες, τις ασφαλιστικές εταιρείες, τους εργοδότες ή μεγάλες ψηφιακές
πλατφόρμες δεν μπορεί να γίνεται σαν μια αθέατη τεχνική λεπτομέρεια. Όταν το σύστημα επηρεάζει πραγματικές ευκαιρίες, δικαιώματα ή υποχρεώσεις, η ύπαρξή του πρέπει να είναι ορατή και η λειτουργία του επαρκώς εξηγήσιμη.
Αυτό είναι ακόμη σημαντικότερο επειδή η τεχνολογική πολυπλοκότητα δημιουργεί ασυμμετρία γνώσης. Ο οργανισμός γνωρίζει το σύστημα, ενώ ο πολίτης συνήθως όχι. Το δίκαιο οφείλει να περιορίζει αυτή την ανισορροπία. Η διαφάνεια έχει, συνεπώς, μια ευρύτερη δημοκρατική διάσταση. Όσο περισσότερες αποφάσεις μεταφέρονται σε αυτοματοποιημένα συστήματα, τόσο μεγαλύτερη πρέπει να γίνεται, και όχι να μειώνεται, η δυνατότητα κοινωνικού και θεσμικού ελέγχου. Η τεχνολογία μπορεί να είναι σύνθετη. Η εξουσία όμως που ασκείται μέσω αυτής δεν μπορεί να είναι αόρατη.
