Τι είναι η Συσχέτιση;

Η Συσχέτιση είναι μια θεμελιώδης στατιστική μετρική που ποσοτικοποιεί τον βαθμό στον οποίο δύο ποσοτικές μεταβλητές σχετίζονται γραμμικά ή μονοτονικά. Σε πρακτικούς όρους, μετράει πώς οι τιμές μιας μεταβλητής αλλάζουν συστηματικά όταν αλλάζουν οι τιμές μιας άλλης μεταβλητής. Το θεωρητικό υπόβαθρο της συσχέτισης βασίζεται άμεσα στην έννοια της συνδιακύμανσης, η οποία τυποποιείται μαθηματικά για να παρέχει μια αδιάστατη μετρική. Εάν μια αύξηση στην πρώτη μεταβλητή αντιστοιχεί σε μια συστηματική αύξηση στη δεύτερη μεταβλητή, η σχέση ταξινομείται ως θετική συσχέτιση. Αντιστρόφως, εάν μια αύξηση στην πρώτη μεταβλητή αντιστοιχεί σε μια συστηματική μείωση στη δεύτερη, ταξινομείται ως αρνητική συσχέτιση. Όταν οι μεταβλητές διακυμαίνονται εντελώς ανεξάρτητα η μία από την άλλη, μην επιδεικνύοντας κανένα διακριτό μοτίβο, υπάρχει μηδενική συσχέτιση.

Πώς μετριέται η ισχύς και η κατεύθυνση της Συσχέτισης;

Η στατιστική σχέση μετριέται χρησιμοποιώντας ένα κατασκεύασμα γνωστό ως συντελεστής συσχέτισης, το οποίο εξάγει μια αυστηρά περιορισμένη αριθμητική τιμή που κυμαίνεται ακριβώς από -1.0 έως +1.0.

Μια τιμή +1.0 υποδεικνύει μια τέλεια θετική γραμμική σχέση, ενώ μια τιμή -1.0 υποδεικνύει μια τέλεια αρνητική γραμμική σχέση. Μια τιμή ακριβώς 0 υποδεικνύει την πλήρη απουσία οποιασδήποτε γραμμικής σχέσης.

Ο πιο ευρέως χρησιμοποιούμενος υπολογισμός είναι ο συντελεστής συσχέτισης Pearson, ο οποίος αξιολογεί αυστηρά γραμμικές σχέσεις μεταξύ συνεχών, κανονικά κατανεμημένων μεταβλητών. Για μη γραμμικές αλλά μονοτονικές σχέσεις, ή για τακτικές κατηγορίες δεδομένων, οι Data Scientists χρησιμοποιούν τον συντελεστή συσχέτισης τάξης Spearman. Η μέθοδος Spearman αξιολογεί τις σχέσεις με βάση τη σχετική σειρά κατάταξης των σημείων δεδομένων και όχι τις ακατέργαστες, απόλυτες αριθμητικές τους τιμές.

Αποδεικνύει η Συσχέτιση μια σχέση αιτίου-αιτιατού;

Όχι, η συσχέτιση θεμελιωδώς δεν αποδεικνύει αιτιότητα. Ένας υψηλός συντελεστής συσχέτισης μεταξύ δύο μεταβλητών αποδεικνύει μαθηματικά ότι οι μεταβλητές επιδεικνύουν συγχρονισμένη συμπεριφορά, αλλά δεν παρέχει καμία απόδειξη ότι η μία μεταβλητή προκαλεί άμεσα τις αλλαγές στην άλλη. Συχνά, δύο μεταβλητές μπορεί να επιδεικνύουν ισχυρή στατιστική συσχέτιση απλώς και μόνο επειδή επηρεάζονται ανεξάρτητα από έναν τρίτο, μη μετρήσιμο παράγοντα, γνωστό επιστημονικά ως συγχυτικός παράγοντας. Επιπλέον, οι μεταβλητές μπορούν να επιδείξουν ψευδή συσχέτιση, όπου η συγχρονισμένη διακύμανση συμβαίνει εξ ολοκλήρου από τυχαία μαθηματική πιθανότητα χωρίς καμία λογική ή φυσική σύνδεση. Η καθιέρωση οριστικής αιτιότητας απαιτεί ελεγχόμενους πειραματικούς σχεδιασμούς, όπως το A/B Testing, αντί για παρατηρησιακή ανάλυση συσχέτισης.

Γιατί η Συσχέτιση είναι κρίσιμη κατά τη φάση επιλογής χαρακτηριστικών στη μηχανική μάθηση;

Στην αρχιτεκτονική της μηχανικής μάθησης, η ανάλυση συσχέτισης είναι ένα υποχρεωτικό βήμα προεπεξεργασίας που χρησιμοποιείται για την αξιολόγηση των σχέσεων μεταξύ των χαρακτηριστικών εισόδου και της μεταβλητής-στόχου, καθώς και των σχέσεων μεταξύ των ίδιων των χαρακτηριστικών εισόδου. Οι Data Scientists επιδιώκουν να εντοπίσουν χαρακτηριστικά που έχουν υψηλή θετική ή αρνητική συσχέτιση με τη μεταβλητή-στόχο, καθώς αυτά τα χαρακτηριστικά διαθέτουν εγγενώς ισχυρή προγνωστική ικανότητα. Ταυτόχρονα, πρέπει να εντοπίσουν περιπτώσεις όπου δύο ή περισσότερα χαρακτηριστικά εισόδου συσχετίζονται σε μεγάλο βαθμό μεταξύ τους, μια στατιστική κατάσταση γνωστή ως πολυσυγγραμμικότητα. Η πολυσυγγραμμικότητα παραμορφώνει τα μαθηματικά βάρη των προγνωστικών μοντέλων όπως η πολλαπλή γραμμική παλινδρόμηση και αυξάνει τον υπολογιστικό φόρτο χωρίς να προσθέτει νέα πληροφοριακή αξία. Κατά συνέπεια, τα περιττά συσχετισμένα χαρακτηριστικά συνήθως εντοπίζονται και αφαιρούνται από το σύνολο δεδομένων πριν από τη φάση εκπαίδευσης του μοντέλου.

 

Ποιοι είναι οι Κύριοι Τύποι Συντελεστών Συσχέτισης;

Όταν οι επιστήμονες δεδομένων αξιολογούν τη σχέση μεταξύ μεταβλητών, επιλέγουν συγκεκριμένες στατιστικές μεθοδολογίες με βάση την υποκείμενη κατανομή και τη φύση των δεδομένων. Οι τρεις πιο θεμελιώδεις συντελεστές συσχέτισης που χρησιμοποιούνται στην επιστήμη δεδομένων είναι οι Pearson, Spearman και Kendall.

• 1. Συντελεστής Συσχέτισης Pearson: Ο πιο ευρέως χρησιμοποιούμενος υπολογισμός είναι ο συντελεστής συσχέτισης Pearson, ο οποίος αξιολογεί αυστηρά γραμμικές σχέσεις μεταξύ συνεχών, κανονικά κατανεμημένων μεταβλητών. Μετράει τον βαθμό στον οποίο μια σταθερή μεταβολή στη μία μεταβλητή μεταφράζεται σε μια σταθερή αναλογική μεταβολή σε μια δεύτερη μεταβλητή. Είναι ιδιαίτερα ευαίσθητος σε ακραίες τιμές (outliers) και προϋποθέτει ένα σαφές γραμμικό μοτίβο.
• 2. Συντελεστής Συσχέτισης Τάξης Spearman: Για μη γραμμικές αλλά μονοτονικές σχέσεις, ή για τακτικές κατηγορίες δεδομένων, οι Data Scientists χρησιμοποιούν τον συντελεστή συσχέτισης τάξης Spearman. Η μέθοδος Spearman αξιολογεί τις σχέσεις με βάση τη σχετική σειρά κατάταξης των σημείων δεδομένων και όχι τις ακατέργαστες, απόλυτες αριθμητικές τους τιμές. Αυτό σημαίνει ότι καθορίζει εάν δύο μεταβλητές κινούνται προς την ίδια σχετική κατεύθυνση (είτε αυξάνονται σταθερά είτε μειώνονται σταθερά), ανεξάρτητα από τον ακριβή αριθμητικό ρυθμό μεταβολής. Επειδή βασίζεται στην κατάταξη, είναι πολύ πιο ανθεκτικός σε ακραίες τιμές σε σχέση με τη μέθοδο Pearson.
• 3. Συντελεστής Συσχέτισης Τάξης Kendall (Kendall's Tau): Η συσχέτιση Kendall είναι μια εναλλακτική μη παραμετρική μετρική που χρησιμοποιείται για την αξιολόγηση της ισχύος της τακτικής συσχέτισης. Όπως και η μέθοδος Spearman, αξιολογεί τις μονοτονικές σχέσεις χρησιμοποιώντας καταταγμένα δεδομένα και όχι τις αρχικές ακατέργαστες τιμές. Ωστόσο, η προσέγγιση του Kendall υπολογίζει τη διαφορά μεταξύ της πιθανότητας τα παρατηρούμενα ζεύγη δεδομένων να βρίσκονται στην ίδια σειρά (σύμφωνα ζεύγη) και της πιθανότητας να βρίσκονται σε διαφορετική σειρά (ασύμφωνα ζεύγη). Σε πρακτικές εφαρμογές μηχανικής μάθησης, το Kendall's Tau προτιμάται συχνά έναντι του Spearman όταν το σύνολο δεδομένων είναι σχετικά μικρό ή όταν υπάρχουν πολλές πανομοιότυπες τιμές (ισοβαθμίες στην κατάταξη) στα χαρακτηριστικά των δεδομένων.

Στα σύγχρονα περιβάλλοντα προγραμματισμού επιστήμης δεδομένων, όπως η Python, η χρήση της βιβλιοθήκης Pandas επιτρέπει στους προγραμματιστές να εναλλάσσονται αβίαστα μεταξύ αυτών των τριών μαθηματικών αλγορίθμων, τροποποιώντας απλώς την παράμετρο της μεθόδου (π.χ. method='pearson', method='spearman' ή method='kendall') κατά τον υπολογισμό των πινάκων συσχέτισης.