Του Πατριάρχη
Η Κύπρος ετοιμάζει νομοθεσία για την εφαρμογή του ευρωπαϊκού Κανονισμού περί Τεχνητής Νοημοσύνης, με τη δημόσια διαβούλευση να διαρκεί μέχρι τις 16 Σεπτεμβρίου με προβλέψεις για αρμόδιες Αρχές, ελέγχους, κυρώσεις και ειδικό μηχανισμό για τη δοκιμή νέων συστημάτων.
Όλα αυτά ακούγονται σύγχρονα και αισιόδοξα, αλλά ας μην ξεχνάμε πως ζούμε στη Κύπρο και η πείρα δείχνει πως αγοράζουμε την τεχνολογία πριν αποφασίσουμε ποιος θα τη χειρίζεται και ανακαλύπτουμε τους κινδύνους αφού προηγηθεί η ζημιά.
Η Τεχνητή Νοημοσύνη μπορεί να γίνει πολύτιμο εργαλείο για το κράτος, να περιορίσει καθυστερήσεις, να εντοπίζει απάτες, να οργανώνει δεδομένα και να απελευθερώνει υπαλλήλους από εργασίες που μέχρι σήμερα απαιτούν βουνά από φακέλους, τρεις υπογραφές και τέσσερα τηλεφωνήματα. Αυτό το δώρο της Τεχνητής Νοημοσύνης όμως, δεν διαθέτει συνείδηση, κρίση ή αίσθηση δικαιοσύνης. Υπολογίζει με βάση τα δεδομένα που της δίνουμε και τις εντολές εκείνων που την προγραμματίζουν.
Αν τα δεδομένα περιέχουν λάθη ή προκαταλήψεις, το σύστημα δεν θα τα διορθώσει από ευαισθησία, αλλά θα τα πολλαπλασιάσει με ταχύτητα που κανένας γραφειοκράτης δεν θα μπορούσε να συναγωνιστεί.
Τι θα συμβεί, για παράδειγμα, όταν ένας αλγόριθμος αξιολογεί ποιος δικαιούται επίδομα, ποιος θεωρείται ύποπτος για φοροδιαφυγή ή ποιος προηγείται για μια θέση εργασίας; Ποιος θα εξηγήσει στον πολίτη γιατί απορρίφθηκε; Ένας υπάλληλος που θα σηκώσει τους ώμους λέγοντας «έτσι το έβγαλε το σύστημα»;
Αυτή θα είναι η νέα μορφή διοικητικής ανευθυνότητας. Ο άνθρωπος θα επικαλείται τη μηχανή και η μηχανή δεν θα μπορεί να λογοδοτήσει σε κανέναν και για τίποτα. Η ευθύνη θα μεταφέρεται από γραφείο σε γραφείο, και για όλα θα φταίει η τεχνολογία.
Ο ευρωπαϊκός κανονισμός επιχειρεί να αποτρέψει ακριβώς αυτή την αυθαιρεσία. Απαγορεύει, μεταξύ άλλων, την κοινωνική βαθμολόγηση πολιτών και επιβάλλει αυστηρούς όρους σε συστήματα που επηρεάζουν την εργασία, την εκπαίδευση, τις δημόσιες υπηρεσίες, τη δικαιοσύνη και την αστυνόμευση. Απαιτεί επίσης διαφάνεια για το παραποιημένο υλικό που δημιουργείται με Τεχνητή Νοημοσύνη και πρόνοια για ουσιαστική ανθρώπινη εποπτεία στα συστήματα υψηλού κινδύνου.
Μερικοί θα πουν ότι η Ευρώπη πάλι βάζει κανόνες, ενώ άλλοι καινοτομούν. Πρόκειται για ακόμα μία επίδειξη ανοησίας. Καινοτομία χωρίς ευθύνη σημαίνει ότι κάποιος άλλος πληρώνει το κόστος του πειράματος και συνήθως αυτός είναι ο πολίτης που δεν διαθέτει δικηγόρο, τεχνικές γνώσεις ή πρόσβαση στα κέντρα λήψης αποφάσεων.
Η Τεχνητή Νοημοσύνη μπορεί να μπει στο κράτος, δεν πρέπει, όμως, να καθίσει στην καρέκλα του ανθρώπου που διαθέτει συνείδηση. Κάθε απόφαση που επηρεάζει δικαιώματα, εισόδημα ή ελευθερία πρέπει να έχει ανθρώπινη υπογραφή, σαφή αιτιολογία και πραγματική δυνατότητα ένστασης.
Διαφορετικά θα έχουμε πετύχει το τεχνολογικό μας θαύμα. Θα έχουμε δημιουργήσει έναν δημόσιο υπάλληλο που δεν κουράζεται ποτέ, δεν απεργεί και κυρίως δεν φταίει σε τίποτα. Όχι ότι αυτό δεν το βιώνουμε και με τους υπαλλήλους με τη φυσική νοημοσύνη… όση – πού ή λίγη – κι αν είναι.