Τί είναι το Explainable AI;

Το Explainable AI (συχνά συντομογραφημένο ως XAI) αποτελεί ένα σύνολο διαδικασιών, μεθόδων και τεχνικών εντός του πεδίου του Machine Learning, το οποίο επιτρέπει στους ανθρώπινους χειριστές να κατανοούν και να ιχνηλατούν τις διαδικασίες λήψης αποφάσεων των συστημάτων τεχνητής νοημοσύνης.

Καθώς τα μοντέλα Machine Learning γίνονται ολοένα και πιο περίπλοκα, οι εσωτερικοί υπολογισμοί τους συχνά καθίστανται αδιαφανείς για τους προγραμματιστές που τα δημιούργησαν. Το Explainable AI επιδιώκει να αναστρέψει αυτή την αδιαφάνεια, παρέχοντας σαφείς, τεκμηριωμένες και μαθηματικά ορθές αιτιολογήσεις για τον λόγο που ένα συγκεκριμένο μοντέλο κατέληξε σε ένα συγκεκριμένο αποτέλεσμα (output). Αντί να παρέχει απλώς μια τελική πρόβλεψη (prediction), ένα πλαίσιο Explainable AI παρέχει την υποκείμενη συλλογιστική, αναλύοντας λεπτομερώς ακριβώς ποιες μεταβλητές εισόδου (input variables) επηρέασαν τον τελικό υπολογισμό του συστήματος και σε ποιο βαθμό.

Γιατί είναι το Explainable AI κρίσιμο για την εφαρμογή προηγμένων μοντέλων Machine Learning;

Η αναγκαιότητα για το Explainable AI προκύπτει από την ευρεία υιοθέτηση εξαιρετικά περίπλοκων αλγορίθμων, όπως τα Deep Neural Networks και τα Ensemble methods, τα οποία εκ φύσεως δεν είναι ερμηνεύσιμα αποκλειστικά μέσω ανθρώπινης εξέτασης. Όταν ένα μοντέλο λειτουργεί χωρίς διαφάνεια, οι οργανισμοί αντιμετωπίζουν σοβαρούς περιορισμούς στον έλεγχο του συστήματος για σφάλματα, στον εντοπισμό εγγενών υπολογιστικών μεροληψιών (biases) ή στην επαλήθευση ότι το μοντέλο βασίζεται σε λογικά ορθές σχέσεις δεδομένων αντί για ψευδείς συσχετίσεις. Ενσωματώνοντας το Explainable AI, οι οργανισμοί διασφαλίζουν την αλγοριθμική υπευθυνότητα, διευκολύνουν τις αυστηρές διαδικασίες debugging και εγκαθιδρύουν κανονιστική συμμόρφωση , ιδιαίτερα σε τομείς όπου οι αυτοματοποιημένες αποφάσεις έχουν σημαντικές οικονομικές, νομικές ή προσωπικές επιπτώσεις.

Ποια είναι η θεμελιώδης διαφορά μεταξύ Global και Local Explainability;

Στο πλαίσιο του Explainable AI, η ερμηνευσιμότητα (interpretability) χωρίζεται σε δύο διακριτά λειτουργικά πεδία.

• Το Global Explainability παρέχει μια ολοκληρωμένη επισκόπηση της συνολικής συμπεριφοράς του μοντέλου σε όλες τις πιθανές εισόδους δεδομένων. Εντοπίζει ποιες μεταβλητές είναι συνολικά οι πιο σημαντικές στον καθορισμό των γενικών ορίων απόφασης του μοντέλου.
• Αντιθέτως, το Local Explainability απομονώνει μία μεμονωμένη, συγκεκριμένη πρόβλεψη. Υπολογίζει ακριβώς πόσο συνέβαλε κάθε μεταβλητή εισόδου στην απόφαση του μοντέλου για τη συγκεκριμένη μοναδική περίπτωση, ανεξάρτητα από το πόσο σημαντικές μπορεί να είναι αυτές οι μεταβλητές κατά μέσο όρο σε ολόκληρο το dataset.

Ποιο είναι το θεωρητικό υπόβαθρο πίσω από τις κύριες τεχνικές που χρησιμοποιούνται στο Explainable AI;

Τα θεωρητικά θεμέλια του Explainable AI εντάσσονται γενικά σε δύο κατηγορίες: τα εγγενώς ερμηνεύσιμα μοντέλα (intrinsically interpretable models) και τις μεθόδους επεξήγησης εκ των υστέρων (post-hoc explanation methods).

Τα εγγενώς ερμηνεύσιμα μοντέλα χρησιμοποιούν δομικούς μαθηματικούς περιορισμούς για να διασφαλίσουν τη διαφάνεια εκ σχεδιασμού. Αυτό περιλαμβάνει αλγόριθμους όπως το τυπικό Linear Regression ή τα ρηχά Decision Trees, όπου τα βάρη ή τα κριτήρια διαχωρισμού είναι άμεσα αναγνώσιμα.

Οι μέθοδοι επεξήγησης post-hoc βασίζονται στη θεωρία παιγνίων και σε τεχνικές διαταραχής για την ερμηνεία αδιαφανών αλγορίθμων αφού έχουν εκπαιδευτεί πλήρως. Για παράδειγμα, ορισμένες μέθοδοι μεταβάλλουν συστηματικά τα δεδομένα εισόδου και μετρούν την αντίστοιχη αλλαγή στην έξοδο του μοντέλου για να υπολογίσουν τη σημαντικότητα των χαρακτηριστικών (feature importance), εφαρμόζοντας έννοιες όπως τα Shapley values από τη συνεργατική θεωρία παιγνίων για να κατανείμουν δίκαια τη συμβολή της τελικής πρόβλεψης μεταξύ όλων των features.

Σε ποιες γλώσσες προγραμματισμού και libraries εφαρμόζονται συνήθως οι τεχνικές Explainable AI;

Η υλοποίηση του Explainable AI συγκεντρώνεται συντριπτικά στη γλώσσα προγραμματισμού Python. Οι Data Scientists χρησιμοποιούν κυρίως δύο μεγάλα υπολογιστικά libraries: το SHAP (SHapley Additive exPlanations) και το LIME (Local Interpretable Model-agnostic Explanations). Το library SHAP υπολογίζει τις βέλτιστες αποδόσεις χαρακτηριστικών (feature attributions) με βάση τη θεωρία παιγνίων, ενώ το LIME κατασκευάζει απλούστερα, ερμηνεύσιμα μοντέλα αντικατάστασης (proxy models) γύρω από τη συγκεκριμένη πρόβλεψη του πολύπλοκου μοντέλου. Επιπλέον, το framework InterpretML προσφέρει μια ενοποιημένη διεπαφή για πολλαπλούς αλγόριθμους ερμηνευσιμότητας. Στη γλώσσα προγραμματισμού R, το πακέτο DALEX παρέχει μια ολοκληρωμένη σουίτα εργαλείων για την εξερεύνηση, την επεξήγηση και την αποσφαλμάτωση προγνωστικών μοντέλων.