Το φθινόπωρο του 2016 προβλήθηκε ένα επεισόδιο της σειράς Black Mirror όπου η πρωταγωνίστρια, μια νεαρή κοπέλα, πάσχιζε να βελτιώσει την κοινωνική της θέση ψαρεύοντας «θετικές ψήφους» στα social media αλλά τελικά μια σειρά από συγκυρίες την καταδικάζουν να μην μπορεί ούτε αυτοκίνητο να νοικιάσει γιατί η «βαθμολογία» της είναι χαμηλή.
Όσοι σπεύσαμε να το σχολιάσουμε ως επιστημονική φαντασία προφανώς αγνοούσαμε πως η Κίνα είχε ανακοινώσει δύο χρόνια πριν ένα «Σχέδιο για την Κατασκευή ενός Κοινωνικού Συστήματος Αξιοπιστίας» που δεν απέχει και πολύ από τηλεοπτικό σενάριο δυστοπικής κοινωνίας.
Τι είναι το Κοινωνικό Σύστημα Αξιοπιστίας και ποιον σκοπό θα εξυπηρετεί;
Φανταστείτε ένα ψηφιακό σύστημα επεξεργασίας δεδομένων όπου το κράτος συλλέγει τα δεδομένα όλων των πολιτών από εφαρμογές που χρησιμοποιούν καθημερινά όπως το Tinder, το Beat, το Twitter, το Fitbit, επεξεργάζεται το ψηφιακό αποτύπωμα των ταινιών που επιλέγουν να δούνε, τις διαδικτυακές παραγγελίες, τα τρόφιμα που ψωνίζουν με χρήση κάρτας από το σουπερμάρκετ, ενημερώνεται για το πότε πληρώνουν τους λογαριασμούς τους, ποιοι είναι οι φίλοι τους στα μέσα κοινωνικής δικτύωσης και ποιες απόψεις αναρτούν ώστε να τους αξιολογήσει ως πολίτες και να βαθμολογήσει την αξιοπιστία τους.
Στο σχέδιο για την υλοποίηση του Κοινωνικού Συστήματος Αξιοπιστίας η κινεζική κυβέρνηση αναφέρει πως σκοπός του είναι «να αυξηθεί η ευαισθητοποίηση για θέματα ακεραιότητας και το επίπεδο αξιοπιστίας μεταξύ των μελών της κοινωνίας». Όπως όμως κι αν το περιγράφουν οι αρχές, στην πραγματικότητα δεν είναι παρά ένα ιδιαίτερα εξελιγμένο εργαλείο απόλυτης παρακολούθησης, επεξεργασίας και καταγραφής των προτιμήσεων και συμπεριφορών του 1,3 δις πολιτών της Λαϊκής Δημοκρατίας της Κίνας που χρησιμοποιεί τις πιο σύγχρονες τεχνικές ανάλυσης μαζικών δεδομένων.
Το ακόμα πιο τρομακτικό στοιχείο είναι πως η βαθμολογία του καθενός δεν θα επηρεάζεται μόνο από όσα λέει και κάνει ο ίδιος αλλά και από όσα λένε και κάνουν οι online φίλοι του, ανεξαρτήτως της μεταξύ τους διάδρασης.
Ο Rogier Creemers είναι μεταδιδακτορικός ερευνητής που ειδικεύεται σε ζητήματα που άπτονται του νόμου και της διακυβέρνησης στην Κίνα και εκείνος που δημοσίευσε την ολοκληρωμένη μετάφραση του σχεδίου και το παρομοίασε με «κριτικές στο Yelp συνδυασμένες με ένα κράτος-νταντά που κοιτάζει πάνω από τον ώμο σου».
Η ένταξη στο σύστημα αυτό θα καταστεί υποχρεωτική για κάθε πολίτη και νομικό πρόσωπο που δραστηριοποιείται στην Κίνα από το 2020 όταν το κράτος θα έχει αναπτύξει το δικό του πρόγραμμα, ωστόσο ήδη από το 2015 η κινεζική κυβέρνηση παραχώρησε σε οκτώ κινεζικές εταιρείες ειδική άδεια για να αναπτύξουν τα δικά τους πιλοτικά προγράμματα ώστε να δοκιμαστούν οι λογάριθμοι που θα χρησιμοποιηθούν τελικά και να εκτιμηθεί η αποτελεσματικότητα του. Σε αυτά τα δοκιμαστικά προγράμματα οι πολίτες συμμετέχουν προκειμένου να βαθμολογηθούν οικειοθελώς (;).
Από τις οκτώ εταιρείες που αδειοδοτήθηκαν, οι δύο δραστηριοποιούνται σε επιχειρηματικά πεδία όπου η συλλογή τεράστιου όγκου δεδομένων είναι αναπόσπαστο κομμάτι για τη σωστή λειτουργία τους. Η πρώτη είναι η China Rapid Finance, η οποία ανήκει στον όμιλο του κολοσσού των κοινωνικών δικτύων και ηλεκτρονικών υπηρεσιών Tencent που έχει αναπτύξει μεταξύ άλλων και την εφαρμογή μηνυμάτων WeChat (με πάνω από 850 εκατομμύρια ενεργούς χρήστες).
Η δεύτερη δεν είναι άλλη από την Sesame Credit, την οποία διαχειρίζεται ο όμιλος Ant Financial Services Group (AFSG). Πρόκειται για θυγατρική της γιγαντιαίας πολυεθνικής ηλεκτρονικού εμπορίου Alibaba, στην οποία ανήκει και η εταιρεία που χρησιμοποιούν κατ' εξοχήν οι Κινέζοι για online αγορές, πληρωμή υπηρεσιών διασκέδασης και λογαριασμών, μεταφορά χρηματικών ποσών και εξόφληση υποχρεώσεων όπως δίδακτρα κ.λπ.
Για την εφαρμογή του πιλοτικού της προγράμματος η Sesame Credit συνεργάζεται με την ανταγωνίστρια της Uber στην Κίνα, την Didi Chuxing, και την μεγαλύτερη εταιρεία διαδικτυακού προξενιού, την Baihe. Νομίζω πως μετά από αυτό γίνεται πλήρως αντιληπτό πως δεν μένει καμία απολύτως πτυχή της προσωπικής ζωής των πολιτών όπου στοιχειωδώς να προστατεύεται η ιδιωτικότητα.
Επιπλέον, τον περασμένο Ιούνιο η κινεζική κυβέρνηση ανακοίνωσε πως εκτός από τους πολίτες, σε κάθε οργανισμό, εταιρεία, ΜΚΟ αλλά και κυβερνητικό φορέα θα αποδοθεί ένας μοναδικός αριθμός ταυτοποίησης ώστε να διευκολύνεται η παρακολούθηση των δραστηριοτήτων τους.
Όποτε έχουν ερωτηθεί οι υπεύθυνοι των πιλοτικών προγραμμάτων επιμένουν να μην αποκαλύπτουν τον αλγόριθμο που χρησιμοποιούν για την κατάταξη των πολιτών στην κλίμακα αξιοπιστίας, αλλά δεν έχουν κανένα πρόβλημα να περιγράψουν τον γενικό τρόπο λειτουργίας του και τα δεδομένα που επεξεργάζονται προκειμένου να καταλήξουν στην βαθμολόγηση τους.
Το σύστημα της Sesame Credit εξετάζει την πιστοληπτική ικανότητα των πολιτών, αν «εκπληρώνουν τις υποχρεώσεις τους», αν δηλώνουν ορθά τα προσωπικά τους στοιχεία, τις συμπεριφορές και προτιμήσεις τους και τέλος τις διαπροσωπικές τους σχέσεις.
Οι πρώτες τρεις κατηγορίες δεν είναι κάτι που θα έπρεπε να μας ξενίζει ιδιαίτερα, εξάλλου τα ίδια περίπου στοιχεία μας συλλέγονται κι επεξεργάζονται από τους χρηματοπιστωτικούς οργανισμούς προκειμένου να εκδώσουμε μια πιστωτική κάρτα ή να πραγματοποιήσουμε άλλες συναλλαγές. Η τέταρτη και η πέμπτη κατηγορία στοιχείων όμως είναι εκείνες που εύλογα προκαλούν ανησυχίες σε όσους δεν επιθυμούν να ζήσουν μια οργουελική πραγματικότητα όπου κάθε επιλογή, ακόμα και άκρως προσωπική ή σεξουαλική, θα καταγράφεται και θα ζυγιάζεται ώστε το κράτος να αποφανθεί αν είσαι «καλός», «χρήσιμος» και «αξιόπιστος» πολίτης και αναλόγως να σε επιβραβεύσει ή να σε τιμωρήσει χωρίς να έχεις προβεί σε κάποια παράνομη πράξη.
Σύμφωνα με δηλώσεις του Li Yingyun, Διευθυντή Τεχνολογίας της Sesame, αν για παράδειγμα τα δεδομένα δείχνουν πως δαπανάς γύρω στις 8 ώρες ημερησίως παίζοντας κάποιο μαζικό διαδικτυακό παιχνίδι ρόλων πολλαπλών παικτών (MMORPG), ο αλγόριθμος σε θεωρεί τεμπέλη και ανεύθυνο, ενώ αν αγοράζεις συχνά πάνες, ως γονέας, κερδίζεις πόντους αξιοπιστίας. Φανταστείτε λοιπόν την επίπτωση που μπορεί να έχει η παραμικρή δραστηριότητα κάθε ανθρώπου στον ψηφιακό αλλά και τον πραγματικό κόσμο.
Οι φίλοι είναι επίσης ένας παράγοντας με ιδιαίτερα βαρύνουσα σημασία. Οι διαπροσωπικές σχέσεις, η συχνότητα των επαφών με φίλους και συγγενείς, το ποιόν των ανθρώπων αυτών και οι επικοινωνία μαζί τους επηρεάζουν τους βαθμούς που συγκεντρώνουν στις πιλοτικές πλατφόρμες τα άτομα που συμμετέχουν ήδη εθελοντικά στο πρόγραμμα.
Το ακόμα πιο τρομακτικό στοιχείο είναι πως η βαθμολογία του καθενός δεν θα επηρεάζεται μόνο από όσα λέει και κάνει ο ίδιος αλλά και από όσα λένε και κάνουν οι online φίλοι του, ανεξαρτήτως της μεταξύ τους διάδρασης. Με λίγα λόγια αν διατηρείς ψηφιακή φιλία με κάποιον που αναρτά αρνητικά ή επικριτικά σχόλια για την κυβέρνηση, τότε μαζί με τη δική του βαθμολογία θα κατρακυλήσει και η δική σου.
Η Hu Tao, γενική διευθύντρια της Sesame Credit, προειδοποιεί πως το σύστημα έχει σχεδιαστεί ούτως ώστε «οι αναξιόπιστοι να μην μπορούν να ενοικιάσουν αυτοκίνητο, να πάρουν δάνειο ή ακόμα και να βρούνε δουλειά». Μάλιστα δεν δίστασε να αποκαλύψει πως η Sesame Credit προσέγγισε το Γραφείο Εκπαίδευσης της Κίνας προκειμένου να προσφέρει μια λίστα φοιτητών που αντέγραψαν στις εθνικές εξετάσεις ώστε μελλοντικά να τιμωρηθούν για την ανεντιμότητά τους.
Η Sesame Credit μάλιστα ήδη προσφέρει συμβουλές σε όσους επιθυμούν να βελτιώσουν τη βαθμολογία τους και προειδοποιούν για τους κινδύνους που επισύρει τυχόν αποδοχή αιτήματος φιλίας από άτομα με χαμηλό δείκτη αξιοπιστίας. Απ' ό,τι φαίνεται η ανάδυση του επαγγέλματος «συμβούλων βελτίωσης κοινωνικής βαθμολογίας», σαν εκείνον που προσλαμβάνει η ηρωίδα του Nosedive, δεν ανήκει πια στη σφαίρα της επιστημονικής φαντασίας.
Τι προβλέπεται για όσους δεν θεωρούνται «καλοί» και «αξιόπιστοι» πολίτες;
Όσοι έχουν χαμηλή βαθμολογία θα τιμωρούνται με συνδέσεις χαμηλότερης ταχύτητας στο διαδίκτυο, περιορισμένη πρόσβαση σε εστιατόρια και χώρους διασκέδασης και αναψυχής και την αφαίρεση του δικαιώματος να ταξιδεύουν ελεύθερα εκτός της χώρας. Η κατάταξη των πολιτών θα επηρεάζει την κοινωνική τους ασφάλιση, τη δυνατότητα να αποκτήσουν ιδιωτική ασφάλιση ή το να γίνουν δεκτά τα παιδιά τους σε ιδιωτικά σχολεία.
Σε όσους έχουν ιδιαίτερα χαμηλή βαθμολογία θα απαγορεύεται η απασχόληση στον δημόσιο τομέα και σε επαγγέλματα όπως του δημοσιογράφου ή του δικηγόρου καθώς εκεί η «αξιοπιστία» θεωρείται απαραίτητη για την άσκησή τους.
Το κυβερνητικό έγγραφο που περιγράφει τις συνέπειες της χαμηλής αξιοπιστίας αναφέρει επί λέξει πως το κοινωνικό σύστημα αξιοπιστίας θα «επιτρέπει στους αξιόπιστους να κυκλοφορούν ελεύθερα παντού κάτω από τους ουρανούς ενώ θα δυσκολεύει τους αναξιόπιστους στο να κάνουν έστω και ένα βήμα».
Ο Meng Xiang, επικεφαλής του εκτελεστικού τμήματος του Ανωτάτου Δικαστηρίου, δήλωσε: «Έχουμε υπογράψει ένα μνημόνιο με πάνω από 44 κυβερνητικά τμήματα ώστε να περιορίζουμε τα "αναξιόπιστα" άτομα σε πολλαπλά επίπεδα». Αξίζει να σημειωθεί πως ήδη 1,65 εκατομμύρια πολίτες που βρίσκονται σε μαύρη λίστα δεν μπορούν να χρησιμοποιήσουν τρένο για τις μετακινήσεις τους ενώ κατά τα τελευταία 4 χρόνια έχει απαγορευθεί η πτήση με αεροπλάνο σε 6,15 εκ. άτομα λόγω «κοινωνικών παραπτωμάτων».
Προφανώς οι πρακτικές αυτές δεν είναι καινοφανείς και έχουν χρησιμοποιηθεί κατά κόρον από απολυταρχικά καθεστώτα (και όχι μόνο, αν λάβουμε υπόψιν τις αποκαλύψεις του Edward Snowden) και υπηρεσίες πληροφοριών. Ιδίως στην Κίνα, όπου η πρακτική τήρησης λεπτομερών φακέλων που καταγράφουν πλείστες πτυχές της προσωπικής, επαγγελματικής και κοινωνικής ζωής υπήρξε διαχρονικά κομμάτι των κρατικών μηχανισμών, η ιδέα ότι κάθε λέξη ή πράξη που θεωρείται «αντικοινωνική» μπορεί να κοστίσει στον πολίτη έχει εμπεδωθεί πια.
Το ζήτημα όμως είναι πως με την βοήθεια των νέων τεχνολογιών οι πολίτες τοποθετούνται εντός ενός ψηφιακού panopticon. Το νέο σύστημα δεν θα παρακολουθεί μόνο τις συμπεριφορές αλλά θα τις κατευθύνει κιόλας. Γνωρίζοντας πως ουδέν κρυπτόν υπό τον ήλιον, οι πολίτες θα αποφεύγουν αγορές, συμπεριφορές και τη διατύπωση απόψεων που θα καταστρέψουν το παρόν τους και το μέλλον των παιδιών τους.
Επιπλέον, δεδομένου ότι η κατάταξή τους θα εξαρτάται και από την συμπεριφορά των ανθρώπων με τους οποίους συνδέονται, η πίεση από τον περίγυρο σε όσους διανοηθούν να αγνοήσουν τις επιπτώσεις και να εκφραστούν ελεύθερα θα είναι αδιανόητη.
Παρότι προς το παρόν το Κοινωνικό Σύστημα Αξιοπιστίας αφορά μόνο την Κίνα, θα ήταν αφελές να θεωρήσουμε πως όσοι ζούμε στη Δύση βρισκόμαστε στο απυρόβλητο. Ο Γενικός Κανονισμός για την Προστασία Δεδομένων της ΕΕ που θα τεθεί σε πλήρη ισχύ από τον Μάιο του 2018 προσπαθεί να θέσει δικλείδες ασφαλείας προκειμένου να προστατεύσει του πολίτες της Ευρώπης αλλά ουσιαστικά εμείς οι ίδιοι παραδίδουμε τα κλειδιά της προσωπικής μας ζωής στους ψηφιακούς θηρευτές της ιδιωτικότητας.
Συνηθισμένοι πια στη χειραγώγηση και οριακά εθισμένοι στις ψηφιακές «ανταμοιβές», διψώντας για ηλεκτρονική αποδοχή, οι πολίτες αποδέχονται ως φαίνεται πιο εύκολα την επιβολή μιας ολοκληρωτικής παρακολούθησης όταν η ευπείθεια διανθίζεται έτσι ώστε να θυμίζει gaming.
σχόλια