«Θα υπηρετώ ευσυνείδητα την Επιστήμη, με όση αφοσίωση μου επιτρέπουν οι σωματικές και πνευματικές μου δυνάμεις, θα έχω πάντα ως κανόνα ζωής την επικράτηση του Δικαίου, της Αλήθειας και της Ειρήνης.»

 Απόσπασμα από τον όρκο της Πολυτεχνικής Σχολής

«Το ζώο αυτό που γίνεται θεός, και δεν ξέρει τι να κάνει με όλη αυτή τη δύναμή του.»

 Yuval Noah Harari

Κάθε στιγμή που κάθεται κανείς να αναλογιστεί την Τεχνητή Νοημοσύνη, ξεπηδάει μία σκέψη στο μυαλό: Τι θα γίνει με όλες αυτές τις απεριόριστες δυνατότητες που μας δίνει; 

Αν το πιάσουμε ιστορικά, οι άνθρωποι καταλάβαιναν πάντα τι δυνατότητες παρέχει η νοημοσύνη. Και πάντα φοβόντουσαν ότι οι κλειδοκράτορές της μπορούσαν να επιλέξουν να τη χρησιμοποιήσουν για μη ευγενείς σκοπούς. Πάντα, από την εποχή του Ιπποκράτη μέχρι και σήμερα, όρκιζαν τους νέους «κατέχοντες» της ευφυΐας αυτής να χρησιμοποιούν τη γνώση τους για το καλό της ανθρωπότητας, αλλά και τους έχρηζαν κοινωνούς της. Δεν ήθελαν να περιορίζεται η γνώση σε τέσσερις τοίχους και σίγουρα ήθελαν να εξασφαλίσουν ότι δεν θα χρησιμοποιηθεί ποτέ για τη διάβρωση και την καταστροφή του κοινωνικού τους ιστού. Μπορεί για εμάς η ορκωμοσία να είναι πλέον μια κοινωνική εκδήλωση, αλλά για τις κοινωνίες είχε πάντα τον ίδιο σκοπό: να δεσμεύσει και να περιορίσει τις επικίνδυνες εκφράσεις της κακής χρήσης της γνώσης.

Αν τώρα έρθει κάποιος στη σημερινή εποχή, μπορεί να καταλάβει ότι έχει έρθει η ώρα για την τελετή ορκωμοσίας αυτής της Τεχνητής Νοημοσύνης. Γιατί και αυτή μπορεί να χρησιμοποιηθεί για μη ευγενείς σκοπούς και να προκαλέσει κακό με έναν τεράστιο πολλαπλασιαστή. Και πρέπει να παραστούμε όλοι στην τελετή αυτή όπου θα λάβει χώρα ο όρκος.

Αυτός είναι και ο λόγος που αρχίζει να εμφανίζεται παντού ο όρος Υπεύθυνη Τεχνητή Νοημοσύνη (Responsible AI). Το ζήτημα είναι ότι πρέπει να γίνει κατανοητό πως το γνωστό μας πλέον AI περιορίζεται από τη δική του κατάσταση και τα δικά του προβλήματα, και ότι η Υπεύθυνη AI δεν είναι απλώς ένας τρόπος γενικής ηθικολογίας. Είναι ένας τρόπος για να μπορέσει όντως να εφαρμοστεί στην πράξη, να μην οδηγήσει σε ανυπέρβλητες καταστροφές, αλλά και ένας τρόπος για να καταστούν βιώσιμες οι επιχειρήσεις του κόσμου. Τα προβλήματα αναριθμητα, αλλά και οι προτεινόμενες λύσεις επίσης. Παρακάτω παρουσιάζεται μόνο η κορυφή ενος παγοβουνου, που ελπιζω να αποφύγουμε.

Πρώτη ιδέα αποτελεί ότι τα μοντέλα χρειάζονται για την εκπαίδευσή τους τόσο μεγάλη κατανάλωση ενέργειας και πόσιμου νερού, και αυτό σημαίνει αύξηση του κόστους των servers για όλες τις εταιρείες του κόσμου, ανεξαρτήτως ΑΙ, και μεγάλη αύξηση των τιμών της ενέργειας στην εκάστοτε περιοχή  άρα και έναν πληθωρισμό ο οποίος θα γυρίσει πίσω στην εταιρεία που πρέπει να πληρώσει για την ενέργεια εκπαίδευσης του μοντέλου. Σε αυτό σίγουρα έχουμε προσεγγίσεις όπως η χρήση μοντέλων εμπνευσμένων από τον ανθρώπινο εγκέφαλο (όπως τα Spiking Neural Networks), τα οποία υπόσχονται μικρότερη κατανάλωση ενέργειας. Φανταστείτε μία εταιρεία που, επενδύοντας στην έρευνα, καταφέρνει να εκπαιδεύει μοντέλα πιο γρήγορα και πιο φθηνά. Τι ανταγωνιστικό πλεονέκτημα της δίνει αυτό!

Δεύτερον παράδειγμα αποτελεί το πρόβλημα του «μαύρου κουτιού» (black box). Αυτό σημαίνει ότι τα περισσότερα μοντέλα μετά την εκπαίδευσή τους λειτουργούν ως κουτιά που παίρνουν μία είσοδο και δίνουν μία έξοδο, χωρίς να προσδιορίζουν που βασίζεται η απόφασή τους. Αυτό όμως δημιουργεί ένα τεράστιο πρόβλημα για όλες τις εταιρείες που εκπαιδεύουν μοντέλα για ιατρικές εφαρμογές ή εφαρμογές που μπορούν με ένα λάθος να προκαλέσουν τεράστιες καταστροφές, όπως οι στρατιωτικές. Στις ιατρικές εφαρμογές, για παράδειγμα, κανείς γιατρός δεν πρόκειται να εφαρμόσει AI για διάγνωση χωρίς να ξέρει τα κριτήρια με τα οποία πάρθηκε η απόφαση. Αντίθετα, αν το μοντέλο μπορεί να πει: «Βασιζόμενος σε αυτές τις εισόδους και με την εξής βαρύτητα παίρνω αυτή την απόφαση», αυτό αποτελεί ένα βιώσιμο μοντέλο και έναν βιώσιμο μπουσούλα για την πραγματική χρήση του. Τέτοια έρευνα έχει γίνει σε πολύ μεγάλο βαθμό και υπάρχουν πλέον μέθοδοι όπως SHAP, PDP και πολλές άλλες. Χωράει πολύ βελτίωση, αλλά σίγουρα πρέπει να εφαρμοστεί στη μεθοδολογία μας, και αυτό θα ανοίξει απεριόριστες αγορές.

Αυτές οι τεχνικές (XAI - Explainable AI) μπορούν να αμβλύνουν και το πρόβλημα της προκατάληψης (bias) των μοντέλων αυτών. Γιατί τα μοντέλα εκπαιδεύονται σε δεδομένα της κοινωνίας που κουβαλούν προκατάληψη, και άρα παίρνουν αποφάσεις με βάση αυτές. Κλασικό παράδειγμα είναι τα μοντέλα που χρησιμοποιήθηκαν από δικαστικές αρχές ανά τον κόσμο και ήταν πιο πιθανό να βγάλουν ετυμηγορία «ένοχος» αν ο κατηγορούμενος ανήκε σε συγκεκριμένες ομάδες. Αν όμως έχεις ένα εργαλείο που σου λέει πώς παίρνει αυτή την απόφαση, είναι πολύ πιθανόν να το εντοπίσεις.

Άλλο κλασικό πρόβλημα είναι το πρόβλημα των δεδομένων. Για να εκπαιδεύσει μία εταιρεία το μοντέλο, πρέπει να μαζέψει όλα τα δεδομένα κεντρικά σε έναν server και από εκεί να κάνει την εκπαίδευση. Με το που λέω τη φράση «μαζεύει δεδομένα κεντρικά», καταλαβαίνουμε ότι αυτό σημαίνει υποβάθμιση της ιδιωτικότητας. Και για αυτό υπάρχει μία λύση: η Ομοσπονδιακή Μάθηση (Federated Learning). Αυτή έχει ως αρχή τη μη συγκέντρωση δεδομένων κεντρικά, αλλά τη διεξαγωγή της εκπαίδευσης τοπικά σε κάθε συσκευή, στέλνοντας πίσω μόνο τα βάρη (weights). Αυτό σημαίνει ότι η εταιρεία δεν χρειάζεται να διαθέτει τόσο τεράστιους πόρους για αποθήκευση και εκπαίδευση, γιατί θα χρησιμοποιεί τους πόρους των κινητών όπου τρέχει η εφαρμογή, των συστημάτων στις κεραίες, τη λίγη μνήμη κάθε αισθητήρα κ.ο.κ., δημιουργώντας μία μέθοδο πιο οικονομική και με ενισχυμένη προστασία.

Όλα αυτά είναι μόνο κάποιες από τις εφαρμογές της Responsible AI, και σίγουρα το θέμα δεν είναι μόνο ηθικό· χωρίς αυτά θα περιοριστεί η εκπαίδευση και η χρήση των μοντέλων. Η ηθική και το πρακτικό κομμάτι συμπίπτουν, και πρέπει αργά ή γρήγορα να καταλάβουμε ότι δεν υπάρχει κάποιου είδους ανταγωνισμός μεταξύ τους. Αυτό πρέπει να επικοινωνηθεί: η εταιρεία μπορεί να ωφεληθεί πρακτικά από αυτό.

Όλες αυτές οι μέθοδοι δεν είναι ακόμα απολύτως ώριμες ώστε να παράγουν τα ίδια αποτελέσματα με τις συμβατικές, αλλά όποιος καταφέρει να το κάνει θα πάρει ένα τεράστιο πλεονέκτημα. Τα θετικά στοιχεία που δείχνουν ότι θα βελτιώσουν τη διαδικασία και θα δώσουν ανταγωνιστικό πλεονέκτημα υπάρχουν. Αυτό που λείπει είναι αυτός που θα πάρει το ρίσκο για να θερίσει τέτοιους καρπούς. Σίγουρα πάντως δίλημμα «Ανάπτυξη εταιρείας ή Responsible AI» δεν υπάρχει.

Τέλος, πρέπει να αναλογιστούμε ότι αυτά δεν είναι απλά εργαλεία, όπως την εποχή του dot-com. Είναι εργαλεία που δίνουν στον άνθρωπο τη δυνατότητα να αποκτήσει δυνάμεις που στην μυθολογία αποδίδονταν σε θεούς. Όπως λέει και ο Harari, ο άνθρωπος θα γίνει το ζώο που θα αποκτήσει θεϊκή δύναμη και δεν θα ξέρει τι να κάνει με αυτή. Εγώ περιμένω αυτή την ορκωμοσία του AI, στην οποία θα δώσουμε σκοπό: για την ανάπτυξη, για την ηθική, για να υπάρχει λόγος ύπαρξης.