Ο Έλληνας διδάκτορας του ΜΙΤ που δημιούργησε το πρώτο αραβόφωνο ρομπότ μιλά στη LIFO

Ο Έλληνας διδάκτορας του ΜΙΤ που δημιούργησε το πρώτο αραβόφωνο ρομπότ μιλά στη LIFO Facebook Twitter
«Ο κόσμος δεν είναι απλώς απομονωμένα συστήματα, αντιθέτως τα πάντα είναι συνδεδεμένα. Και υπάρχει η οπτική γωνία της πληροφορίας, του αριθμού και του αλγορίθμου που, καθρεφτίζοντας όψεις της πραγματικότητας σε ένα πολύ λιγότερο ρευστό υπόβαθρο, μας δίνει νέες δυνατότητες που φάνταζαν αδύνατες παλιότερα»... Ο Νικόλαος Μαυρίδης με τον Αβικέννα.
1

Ο Νικόλαος Μαυρίδης, διδάκτορας του Τεχνολογικού Ινστιτούτου της Μασαχουσέτης (ΜΙΤ), έγινε ευρέως γνωστός ως ο δημιουργός του πρώτου αραβόφωνου διαλογικού ανθρωποειδούς ρομπότ. Γεννήθηκε στις 28 Απριλίου του 1973, τελείωσε με άριστα το Τμήμα Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών του Αριστοτελείου Πανεπιστημίου Θεσσαλονίκης με ειδίκευση στους υπολογιστές και τα ηλεκτρονικά, έλαβε μεταπτυχιακό από το Πανεπιστήμιο της Καλιφόρνιας και το διδακτορικό του στο MIT είχε θέμα τη δημιουργία διαδραστικών ρομπότ που μαθαίνουν το νόημα ανθρωπίνων λέξεων μέσα από παραδείγματα και, συνδέοντας τις λέξεις με την όραση και τις πράξεις τους, συνεργάζονται φυσικά με έναν άνθρωπο.


Πέρα από διδάκτωρ του ΜΙΤ, είναι μέλος του εκπαιδευτικού συμβουλίου και του Enterprise Forum του MIT, στο παρελθόν θήτευσε ως καθηγητής και διευθυντής του Εργαστηρίου Διαδραστικών Ρομπότ και Πολυμέσων στο Πανεπιστήμιο των Ηνωμένων Αραβικών Εμιράτων αλλά και στο Πανεπιστήμιο της Νέας Υόρκης (NYU) και έχει συνεισφέρει ποικιλοτρόπως σε πολλούς άλλους οργανισμούς, συμπεριλαμβανομένων και μη κερδοσκοπικών, ως σύμβουλος, κριτής,και μέντορας. Επίσης, έχει προσκληθεί ως ομιλητής στο Singularity University και σε τέσσερα TEDx.


Τα ερευνητικά του ενδιαφέροντα περιλαμβάνουν την αλληλεπίδραση ανθρώπου-ρομπότ, ιδιαίτερα τη λεκτική και μη λεκτική επικοινωνία με τα ρομπότ, την τεχνητή νοημοσύνη, τη μηχανική μάθηση και αντίληψη και τα γνωσιακά συστήματα. Ζει στο Άμπου Ντάμπι και μιλά στη LiFO αναλυτικά για τις προκλήσεις της εποχής μας, τη ρομποτική, την τεχνητή νοημοσύνη, τα επαγγέλματα που θα χαθούν ή θα δημιουργηθούν, όπως και για πολλά άλλα που θα μας απασχολήσουν.

—Σε τι περιβάλλον μεγαλώσατε; Τι θυμάστε πιο έντονα από τα παιδικά σας χρόνια;

Μεγάλωσα στη Θεσσαλονίκη, την οποία και αγαπώ ιδιαιτέρως. Με εξαίρεση κάποιες περιόδους που έμεινα στην Αθήνα, πρωτοέζησα εκτός Ελλάδας όταν πήγα με πανεπιστημιακή υποτροφία στο Λος Άντζελες για το μεταπτυχιακό μου στο UCLA. Παρότι είχα μάθει αγγλικά από μικρός, θυμάμαι ακόμα πόσο παράξενο μου είχε φανεί όταν για πρώτη φορά συνειδητοποίησα ότι κάποια από τα νυχτερινά μου όνειρα ήταν στην αγγλική γλώσσα. Στη Θεσσαλονίκη είχα μια αρκετά αρμονική ζωή. Ήμουν το μοναχοπαίδι μιας μεσοαστικής οικογένειας και είχα μεγάλη ηλικιακή διαφορά από τους γονείς μου, έτσι ήμουν εκτεθειμένος σε νοοτροπίες και αρχές δύο διαφορετικών γενεών. Η εκ πατρός γιαγιά ήταν δασκάλα σε ένα μονοθέσιο σχολείο στα βουνά, ενώ συγγενείς των προγόνων μου είχαν ζήσει και στην Αλεξάνδρεια της Αιγύπτου και στην Κωνσταντινούπολη, προτού αναγκαστούν να φύγουν, όπως οι περισσότεροι Έλληνες.


Έχω συγκρατήσει στη μνήμη μου κάποια απογεύματα, μετά το ηλιοβασίλεμα, που καθόμουν με τον πατέρα μου και μου έλεγε ιστορίες για τη φυσική, τα μαθηματικά, τις επιστήμες και τα αστέρια. Με ενθάρρυνε να κάνω ερωτήσεις. Η κορύφωση της ευτυχίας μου ήταν όταν τον άκουγα να μου λέει: «Νίκο! Αυτή είναι όντως μια πολύ καλή ερώτηση!». Έτσι έμαθα πάντα να παράγω σχεδόν αυτόματα και ασυνείδητα τις επόμενες ερωτήσεις, αυτές που θα αμφισβητήσουν το αυτονόητο και θα προχωρήσουν την εξερεύνηση προς τη νέα γνώση.

Η 4η βιομηχανική επανάσταση, της οποίας τμήμα αποτελεί η τεχνητή νοημοσύνη, θα κάνει τα όρια ανάμεσα στο φυσικό, στο εικονικό και στο βιολογικό πολύ λιγότερο διακριτά – πρωτίστως θα αλλάξει και εμάς.


Και, βέβαια, η νέα γνώση ξεκινά από τη φαντασία και από την προσεκτική εμπειρική παρατήρηση όχι μόνο των πραγμάτων, αλλά και των ανθρώπων, του εαυτού, αλλά και από τον ορθό λόγο. Αυτά, όταν συνδυαστούν με την πράξη και ξεφύγουν από τα όρια του ατόμου, περνούν σε πολλά επίπεδα κοινωνικών συλλογικοτήτων με ανθρώπους και μηχανές και τότε μπορούμε, τελικά, να αρχίσουμε να αλλάζουμε τον κόσμο.


— Ποια είναι η μεγαλύτερη πρόκληση της εποχής μας;

Αυτήν τη στιγμή μια τεράστια πρόκληση είναι η φαινομενική έλλειψη ενός επαρκούς παγκόσμιου συστήματος. Από τον ψυχροπολεμικό διπολισμό, περάσαμε σε έναν ασαφή μονοπολισμό και πρόσφατα σε μια απροσδιόριστη κατάσταση που, ενώ θα μπορούσε να περιγραφεί ως πολυπολική, δεν είμαι σίγουρος ούτε αν είναι, ούτε τι ακριβώς θα σήμαινε αυτός ο όρος, ούτε αν κάτι τέτοιο θα ευσταθούσε ή τελικά θα ήταν θεμιτό. Εξαρτάται, βέβαια, από τον ορισμό που θα αποφασίζαμε να δώσουμε στην «πολυπολικότητα».


Το κενό γίνεται ακόμα πιο κρίσιμο, λαμβάνοντας υπόψη από τη μια πλευρά τις αυξανόμενες ανισότητες και από την άλλη τις ανατρεπτικές δυνατότητες αρκετών νέων τεχνολογιών, και βεβαίως και αυτών της τέταρτης βιομηχανικής επανάστασης, της γενετικής και της βιοτεχνολογίας.

Συγχρόνως, σε επίπεδο πολιτικών συστημάτων έχουμε μια κρίση των παραδοσιακών θεσμών της Δύσης –οι φιλελεύθερες δημοκρατίες, κυρίως της Ευρώπης, δυσκολεύονται να ελιχθούν αποδοτικά δίπλα στου νέους γίγαντες– και συγχρόνως έχουν επικρατήσει διάφορες μορφές οπισθοδρομικού και επικίνδυνου λαϊκισμού, ελπίζω προσωρινά, σε αρκετές χώρες.


Ίσως όχι μόνο ένα μέρος των προκλήσεων αλλά και ένα σημαντικό τμήμα των λύσεων να βρίσκεται στις νέες τεχνολογίες, π.χ. οι πρώτες ενδείξεις μιας νέας μορφής δημοκρατίας που να συνδυάζει αφενός την αυξημένη συμμετοχικότητα των πολιτών και αφετέρου την τεχνητή νοημοσύνη.

Δεν μιλάω όμως για μια απομονωμένη τεχνητή νοημοσύνη αλλά για συστήματα που να τροφοδοτούνται με μια ολοένα και πιο ακριβή εικόνα της πραγματικότητας μέσα από τα μεγάλα δεδομένα που θα προκύπτουν από κοινωνικά μέσα, από αισθητήρες διαφόρων ειδών και από το διαδίκτυο των πραγμάτων. Το τελευταίο φαίνεται να εξαπλώνεται σε όλα τα επίπεδα, από το σώμα μας μέχρι τα σπίτια μας και τις ευφυείς πόλεις μας. Έτσι, όχι μόνο μπορούμε να παρατηρούμε καλύτερα τι ακριβώς συμβαίνει και να θυμόμαστε τι συνέβαινε αλλά και να κατανοούμε τους νόμους και τις επαναλαμβανόμενες δομές του. Πρέπει όμως να αρχίσουμε να πειραματιζόμαστε σε μικρές κλίμακες με όλα αυτά αν θέλουμε να τα γνωρίζουμε επαρκώς προτού άλλα, ενδεχομένως πολύ πιο ανελεύθερα, επικρατήσουν.


Όμως, πέρα από την τεχνολογία, ακόμα και στις πολιτικές και κοινωνικές της διαστάσεις, θα χρειαστεί ένα νέο αφήγημα και ένα νέο όραμα για την Ελλάδα, την Ευρώπη και την ανθρωπότητα. Βεβαίως και αυτό θα περιλαμβάνει τμήματα από παλιότερα και σίγουρα δεν πρέπει να είναι μονολιθικό αλλά με δυνατότητα για τοπικές διαφοροποιήσεις και πειραματισμούς. Ευτυχώς, έχουν αρχίσει να υπάρχουν κάποια μετρήσιμα και συγκεκριμένα τμήματα τέτοιων εγχειρημάτων. Παραδείγματος χάριν, μια ιδιαίτερα ελπιδοφόρα περίπτωση αποτελεί η δημιουργία των «Στόχων της αειφόρου ανάπτυξης» από τα Ηνωμένα Έθνη, που καλύπτουν ένα ευρύ φάσμα διαφορετικών πλευρών: περιβάλλον, διατροφή, υγεία, παιδεία, κοινωνική ισότητα ευκαιριών και πολλά ακόμα.

Ο Έλληνας διδάκτορας του ΜΙΤ που δημιούργησε το πρώτο αραβόφωνο ρομπότ μιλά στη LIFO Facebook Twitter
Η 4η βιομηχανική επανάσταση, της οποίας τμήμα αποτελεί η τεχνητή νοημοσύνη, θα κάνει τα όρια ανάμεσα στο φυσικό, στο εικονικό και στο βιολογικό πολύ λιγότερο διακριτά – πρωτίστως θα αλλάξει και εμάς.


— Τι μας επιφυλάσσει η 4η βιομηχανική επανάσταση;

Δεν είμαι και, αν θέλω να είμαι επιστημονικά ακριβής, δεν θα έπρεπε να είμαι σίγουρος για το τι μας επιφυλάσσει, μια και είναι δύσκολο να γίνουν ισχυρές προβλέψεις, λαμβάνοντας υπόψη ότι αρκετές όψεις δικές της και του κοινωνικο-οικονομικο-πολιτικού πλαισίου που την περιβάλλει σήμερα είναι αρκετά πρωτόγνωρες. Πάντως, το ερώτημα δεν θα έπρεπε να είναι μόνο το «τι μας επιφυλάσσει η τέταρτη βιομηχανική επανάσταση». Δεν είμαστε έρμαια καιρικών φαινομένων που συμβαίνουν γύρω μας, που απλώς τα παρακολουθούμε, αδύναμοι να επηρεάσουμε τη μοίρα μας. Τα πιο σημαντικά ερωτήματα είναι τι θα μπορούσε να μας επιφυλάσσει και τι θα θέλαμε να μας επιφυλάσσει. Τι απ' όλα αυτά που θα θέλαμε είναι όντως εφικτό και, κυρίως, πώς θα έπρεπε να κινηθούμε για να κινηθούμε προς αυτή την κατεύθυνση.


Το απλοϊκό αφήγημα, λοιπόν, λέει ότι τα βασικά συστατικά της επανάστασης αυτής θα είναι ένα σύνολο από τεχνολογίες: η τεχνητή νοημοσύνη, η ρομποτική, το διαδίκτυο των πραγμάτων, τα μεγάλα δεδομένα, η προσθετική κατασκευαστική, η προσομοίωση, η επεκτεταμένη πραγματικότητα, η κυβερνοασφάλεια και κάποιες φορές και ορισμένες άλλες καινοτομικές τεχνολογικές κατηγορίες.
Τα παραπάνω συστατικά έχουν αρχίσει να επεκτείνουν τη χρήση τους και να συνδυάζονται, εφαρμοζόμενα σε ένα ολοένα μεγαλύτερο αριθμό προϋπαρχόντων αλλά και καινοτόμων τομέων εφαρμογής όπως η υγεία, η παιδεία, η οικονομία, η παραγωγή, η δικαιοσύνη, η ενημέρωση και ο τουρισμός.


— Πώς θα επηρεάσει τη ζωή μας η τεχνητή νοημοσύνη;

Ποικιλοτρόπως. Η 4η βιομηχανική επανάσταση, της οποίας τμήμα αποτελεί η τεχνητή νοημοσύνη, θα κάνει τα όρια ανάμεσα στο φυσικό, στο εικονικό και στο βιολογικό πολύ λιγότερο διακριτά – πρωτίστως θα αλλάξει και εμάς.


Και είναι ενδιαφέρον να δει κανείς διάφορα αφηγήματα που προϋπήρχαν ή αναπτύσσονται σε σχέση με ιδέες ανάλογες της τεχνητής νοημοσύνης και της ρομποτικής. Όπως όμορφα αναφέρουν ο Stephen Cave και η Kanta Dihal, ένα μεγάλο μέρος των αφηγημάτων γύρω από αυτές τις τεχνολογίες περιστρέφεται γύρω από τέσσερις έννοιες: την εργασία, την εξουσία, την υγεία και την κοινωνικότητα. Συνήθως, για καθεμιά από αυτές τις έννοιες αναπτύσσεται ένα δυαδικό συνεχές, στα άκρα του οποίου οριακά αποτυπώνονται φόβοι (δυστοπίες) και επιθυμίες (ουτοπίες) σε σχέση με αυτές τις έννοιες.


Σε σχέση με την εργασία, ο απώτερος φόβος όλων των ανθρώπων είναι μη χάσουν τη δουλειά τους και μείνουν άνεργοι, ενώ η επιθυμία είναι όλοι οι άνθρωποι να μπορέσουν να απελευθερωθούν απ' όλες τις ανεπιθύμητες εργασίες, μεταφέροντάς τες στις μηχανές, καθώς οι ίδιοι θα είναι ελεύθεροι να αφιερώνουν τον χρόνο τους σε πιο δημιουργικές, ευχάριστες δραστηριότητες, προσανατολισμένες στο κοινό καλό.

Υπάρχει ο εφιάλτης του ολικού αφανισμού της ανθρωπότητας από τις μηχανές, π.χ. κατά τις ρομποτικές εξεγέρσεις της επιστημονικής φαντασίας. Πάντως, είναι πολύ πιθανότερο μια μικρή ομάδα ανθρώπων που ελέγχει τεχνολογική γνώση και πόρους να υποδουλώσει την ανθρωπότητα και όχι οι μηχανές από μόνες τους.


Σε σχέση με την εξουσία, από τη μια υπάρχει ο φόβος της υποδούλωσης στις μηχανές και από την άλλη η χρήση των μηχανών ως των τέλειων υπηρετών ή βοηθών. Σε σχέση με την υγεία, η 4η βιομηχανική επανάσταση, υποβοηθώντας τη διαγνωστική, τη θεραπευτική, τη γενετική, την επιδημιολογία, την πρόληψη ατυχημάτων και άλλους κομβικούς τομείς, μας δίνει το όραμα της ριζικά βελτιωμένης υγείας, μακροζωίας, ευεξίας και ασυμπτωτικά αθανασίας. Στο άλλο άκρο υπάρχει ο εφιάλτης του ολικού αφανισμού της ανθρωπότητας από τις μηχανές, π.χ. κατά τις ρομποτικές εξεγέρσεις της επιστημονικής φαντασίας. Πάντως, είναι πολύ πιθανότερο μια μικρή ομάδα ανθρώπων που ελέγχει τεχνολογική γνώση και πόρους να υποδουλώσει την ανθρωπότητα και όχι οι μηχανές από μόνες τους.


Και τέλος, σε σχέση με την κοινωνικότητα, οι μηχανές θα μπορούσαν να μας «απομονώσουν», ώστε να επικοινωνούμε μόνο μαζί τους και όχι με άλλους ανθρώπους, ή και να εκφυλίσουν τις σχέσεις με τους άλλους ανθρώπους, δρώντας ως κακοπροαίρετοι δαιμονικοί ενδιάμεσοι, αλλά και να μας επιτρέψουν να ανακαλύψουμε ανθρώπους με τους οποίους αξίζει να σχετιστούμε και να μας βοηθήσουν να βελτιστοποιήσουμε την επικοινωνία μας μαζί τους, δημιουργώντας ριζικά καλύτερες συνθήκες κοινωνικότητας και αυξάνοντας σημαντικά το κοινωνικό κεφάλαιο, και στις προσωπικές και στις ομαδικές του θεωρήσεις.

— Προσωπικά, τι σας έχει μάθει η ενασχόληση με την τεχνητή νοημοσύνη και τα ρομπότ;

Πάρα πολλά. Αλλά το πιο σημαντικό δεν είναι το τι μου έχει μάθει αλλά το τι μπορεί να διδάξει στον κόσμο. Πρώτα απ' όλα, στα παιδιά, π.χ. μέσω της ενασχόλησης με τη σχολική ρομποτική και με γραφικές γλώσσες προγραμματισμού, καθώς, πέρα από την τεχνική γνώση, μπορεί να δείξει στα παιδιά ότι ο κόσμος δεν είναι απλώς κάτι που συμβαίνει γύρω μας, ακατανόητο, μ' εμάς στον ρόλο απλών θεατών. Αντιθέτως, ο κόσμος είναι κάτι που μπορεί να παρατηρηθεί από διάφορες οπτικές γωνίες, να καταγραφεί και μετρηθεί, να ερμηνευτεί και, κυρίως, να αλλάξει κατά βούληση, εντός ορίων βέβαια. Ο κόσμος μάς ανοίγεται για να τον κατανοήσουμε και, γνωρίζοντάς τον, μας δίνει τη δυνατότητα να επεμβαίνουμε.


Επίσης, δείχνει ότι ο κόσμος δεν είναι απλώς απομονωμένα συστήματα, αντιθέτως τα πάντα είναι συνδεδεμένα. Και υπάρχει η οπτική γωνία της πληροφορίας, του αριθμού και του αλγορίθμου που, καθρεφτίζοντας όψεις της πραγματικότητας σε ένα πολύ λιγότερο ρευστό υπόβαθρο, μας δίνει νέες δυνατότητες που φάνταζαν αδύνατες παλιότερα. Παράλληλα, δεν πρέπει να ξεχνάμε ότι οι τεχνολογίες της 4ης βιομηχανικής επανάστασης θα μπορούσαν να βοηθήσουν άμεσα στην καθημερινή ζωή πολλών ιδιαίτερων κοινωνικών ομάδων, όπως οι άνθρωποι με κινητικές δυσκολίες, δυσκολίες στην όραση και στη γλώσσα, άνοια και πολλά ακόμα. Εν κατακλείδι, μια άλλη όψη της ρομποτικής και της τεχνητής νοημοσύνης είναι αυτή του καθρέφτη. Φτάνουμε, πλέον, κοντά στη στιγμή που θα μπορούμε να «καθρεφτίσουμε» και κάποιες βασικές δομές του σώματός μας αλλά και κάποιες βασικές λειτουργίες του νου μας στα κατασκευάσματά μας.

Ο Έλληνας διδάκτορας του ΜΙΤ που δημιούργησε το πρώτο αραβόφωνο ρομπότ μιλά στη LIFO Facebook Twitter
Η βασική ερώτηση δεν είναι το «άνθρωποι ή μηχανές» αλλά το πώς φτιάχνουμε τις κατάλληλες διασυνδεδεμένες ομάδες ανθρώπων και μηχανών.


— Τα επόμενα χρόνια είναι πιθανόν οι υπολογιστές να αντικαταστήσουν τον άνθρωπο;

Όχι. Ούτε είναι αρκετά πιθανόν, ούτε και θα έπρεπε. Το ζητούμενο είναι η δημιουργία πραγματικού χρόνου συλλογικής νοημοσύνης μέσα από τις κατάλληλα δημιουργημένες και διασυνδεδεμένες ομάδες ανθρώπων και μηχανών. Και όταν μιλάω για διασύνδεση, μη φανταστείτε ανοιχτά κρανία και σύνδεση σε επίπεδο νευρώνων, αυτό θα γίνεται μόνο σε πολύ πολύ ειδικές περιπτώσεις, όπως αυτή της τετραπληγίας.

Η διασύνδεση ανθρώπων και μηχανών θα πραγματοποιείται με πολλούς και πολύ πιο διαφανείς τρόπους, με ένα ευρύ μείγμα τεχνολογιών που διαβάζουν σήματα τα οποία παράγονται από τους ανθρώπους (από το σώμα τους και τις κινήσεις τους, τα μάτια τους, τα λόγια τους, ακόμα και από μετρήσιμα μεγέθη όπως ο καρδιακός ρυθμός και η αναπνοή) και συγχρόνως θα επιστρέφουν πλούσια σήματα στους ανθρώπους μέσα από την επαυξημένη πραγματικότητα και ήπια απτικά, γλωσσικά, ηχητικά και άλλα κανάλια. Και όταν μιλάω για ομάδες ανθρώπων και μηχανών δεν μιλάω για σταθερές και επί εικοσιτετραώρου βάσεως διασυνδεδεμένες ομάδες αλλά για πολύ πιο ευέλικτες και ρευστές, με κάποια μέλη τους ενδεχομένως να τα χωρίζουν μεγάλες αποστάσεις και με δυναμικά μεταβλητή σύνθεση όπως και με δυνατότητες ταυτόχρονης συμμετοχής μελών σε πάνω από μία ομάδες.


Άρα, η βασική ερώτηση δεν είναι το «άνθρωποι ή μηχανές» αλλά το πώς φτιάχνουμε τις κατάλληλες διασυνδεδεμένες ομάδες ανθρώπων και μηχανών. Ένα απλοϊκό παράδειγμα: μπορεί ο Deep Blue, ο ειδικά φτιαγμένος υπολογιστής της IBM, να νίκησε τον παγκόσμιο πρωταθλητή σκακιού Γκάρι Κασπάροφ, όμως σήμερα, ένα απλοϊκό πρόγραμμα σκακιού που συνεργάζεται με 2-3 μέτριους σκακιστές σε μια αρμονική ομάδα, ενδεχομένως μπορεί να καταφέρει πάρα πολλά.


Γενικότερα, τα όρια των δυνατοτήτων και της συλλογικής νοημοσύνης (και κυρίως της δυνατότητας ευφυών επεμβάσεων στον κόσμο) των υβριδικών ομάδων με ανθρώπους και μηχανές, που μπορεί να εκτείνονται και σε μεγάλες γεωγραφικές εκτάσεις, ενδέχεται να ξεπεράσουν κατά πολύ τα όρια και της σημερινής τεχνητής νοημοσύνης αλλά και της ατομικής ανθρώπινης νοημοσύνης.


— Η χρήση της ρομποτικής μπορεί να μειώσει τις θέσεις εργασίας;

Σαφώς, και μάλιστα φαίνεται ότι μέχρι τώρα, π.χ. σύμφωνα με τα δεδομένα που έχει παρουσιάσει σε εργασίες του ο καθηγητής του ΜΙΤ, Ντάρον Αζέμογλου, σε αρκετές περιπτώσεις η εισαγωγή ενός ρομπότ στη βιομηχανία μπορεί να έχει κοστίσει 5 ή και περισσότερες θέσεις εργασίας. Ακόμα χειρότερα, οι υπόλοιποι εργαζόμενοι που δεν έχασαν τις δουλειές τους είχαν και μείωση του μισθού τους. Όπως λέει ο Ντάρον, αυτό δεν είναι απαραίτητο: αν φροντίσουμε, αντί τα ρομπότ να αντικαθιστούν τους ανθρώπους, να τους συμπληρώνουν, τα πράγματα θα είναι πολύ διαφορετικά. Όχι μόνο δεν θα χάνονται θέσεις εργασίες αλλά θα δημιουργούνται περισσότερες. Και όχι μόνο και δεν θα πέφτουν οι μισθοί, αλλά ενδέχεται και να ανεβαίνουν.


Βέβαια, το κομβικό ζήτημα είναι τα ρομπότ να μην αντικαθιστούν αλλά να συμπληρώνουν τους ανθρώπους, και για να γίνει αυτό πρέπει η νέα μονάδα ανθρώπου-ρομπότ να αναβαθμίσει αυτό που προσφέρει σε σχέση με την προγενέστερη μονάδα που αποτελούνταν από τον άνθρωπο μόνο. Και πρέπει επίσης να αναδιανεμηθούν οι πράξεις και οι αρμοδιότητες μεταξύ ανθρώπου και μηχανής, ώστε να δοθούν αυτές που αρμόζουν στους ανθρώπους, και αυτές που αρμόζουν σε μηχανές στις μηχανές. Άρα, πρέπει να βρεθούν οι κατάλληλες «συμπληρωματικές δραστηριότητες» για τους ανθρώπους στις νέες μονάδες ανθρώπου-ρομπότ.


Μάλιστα, μια βασική εξέλιξη της βιομηχανικής ρομποτικής στο πλαίσιο της 4ης βιομηχανικής επανάστασης είναι η δημιουργία και εξάπλωση των συνεργατικών ρομπότ (co-bots). Παραδοσιακά, στη βιομηχανία τα ρομπότ αποτελούσαν μέρη της γραμμής παραγωγής, αλλά συνήθως λειτουργούσαν μέσα σε προστατευτικούς κλωβούς και ανεξάρτητα από τους ανθρώπους. Αντιθέτως, τα co-bots λειτουργούν δίπλα σε ανθρώπους και συνεργάζονται μαζί τους. Αυτό βέβαια απαιτεί ιδιαίτερες δυνατότητες αισθήσεων, κινήσεων και νόησης, ώστε τα ρομπότ αυτά να μη χτυπήσουν το άνθρωπο, να αντιλαμβάνονται τις προθέσεις του και να μπορούν να συντονίζουν τις ενέργειές τους με τον ανθρώπινο συνεργάτη τους.

Η σημερινή επανάσταση γίνεται σε έναν πολύ πιο παγκοσμιοποιημένο κόσμο, όπου το outsourcing, η εξ αποστάσεως εργασία και το λεγόμενο gig economy βρίσκονται σε πρωτόγνωρα επίπεδα, και μάλιστα ανάμεσα σε χώρες με πολύ διαφορετικά επίπεδο εισοδήματος, κόστους ζωής, και συχνά με αρκετά διαφορετικά αξιακά και πολιτικά συστήματα. Γίνεται, επίσης, στη συγκεκριμένη δύσκολη στιγμή του αυξημένου λαϊκισμού, της όξυνσης της ανισότητας και της αύξησης της παγκόσμιας αστάθειας.


Επιστρέφοντας στο θέμα των θέσεων εργασίας, είναι ενδιαφέρον να δει κανείς τις συζητήσεις που έχουν γίνει από κυβερνήσεις τα τελευταία τρία χρόνια. Π.χ. έχουν προταθεί μέτρα όπως το ελάχιστο βασικό εισόδημα (που να δίνεται από το κράτος σε κάθε πολίτη ή σε ομάδες πολιτών που πληρούν προϋποθέσεις), οι ελάχιστες βασικές υπηρεσίες (που προσφέρονται από το κράτος, χωρίς κόστος) και ο φόρος αυτοματισμού (που δίνεται από τις επιχειρήσεις που αντικαθιστούν ανθρώπους από μηχανές, ώστε το κράτος να μπορέσει να στηρίξει αυτούς που επηρεάζονται εργασιακά, και μάλιστα όχι μόνο παθητικά, αλλά ενεργά, προσφέροντας εκπαιδευτικά και άλλα προγράμματα που θα βοηθήσουν στην επαναφορά τους στην αγορά εργασίας).


Η διαχείριση, πάντως, της μετάβασης στη νέα εργασιακή πραγματικότητα, καθώς η τεχνητή νοημοσύνη, η ρομποτική και άλλες μορφές αυτοματισμού επεκτείνονται, απαιτεί προσεκτικούς χειρισμούς σε τοπικό, εθνικό και παγκόσμιο επίπεδο, και απαιτεί και πολλά ακόμα συστατικά, π.χ. μαζικά προγράμματα αναβάθμισης δεξιοτήτων και προσθήκης νέων δεξιοτήτων στο εργατικό δυναμικό, αλλαγές ακόμα και στις αρχικές βαθμίδες του εκπαιδευτικού συστήματος (ποιες δεξιότητες θα είναι σημαντικές όταν τα παιδιά που είναι στο δημοτικό και στο γυμνάσιο βγουν στην αγορά εργασίας; Ένα δύσκολο ερώτημα, λαμβάνοντας υπόψη ότι ενδέχεται να ζούμε σε έναν αρκετά διαφορετικό εργασιακά κόσμο σε 10 χρόνια), και δημιουργία νέων επαγγελμάτων και δραστηριοτήτων που μπορούν να απασχολήσουνε μεγάλους αριθμούς εργαζομένων.


— Ποια όμως θα είναι αυτά τα επαγγέλματα;

Αρκετοί μιλούν για τις νέες μεγάλες ανάγκες που θα προκύψουν, κάποιες από τις οποίες θα είναι πιο «εξωτικές», όπως η κυβερνο-ασφάλεια του διαδικτύου των αντικειμένων ή οι νέες δυνατότητες επεμβάσεων στη σωματική εμφάνιση αλλά και στον ψυχολογικό κόσμο των ανθρώπων. Αλλά μιλάνε και για άλλες πιθανές, πιο μαζικές, όπως η δημιουργία περιεχομένου για την εικονική και επαυξημένη πραγματικότητα και η παροχή ζωντανών υπηρεσιών από ανθρώπους που χειρίζονται άβαταρ σε τέτοιους κόσμους. Και βέβαια, κάποια επαγγέλματα ενδέχεται να εκλείψουν (π.χ. οι οδηγοί λεωφορείων), άλλα να δημιουργηθούν, αλλά και πολλά από τα σημερινά να αλλάξουν περιεχόμενο. Για παράδειγμα, καθώς ένα ολοένα αυξανόμενο μέρος των διαγνωστικών και κλινικών θεραπευτικών αποφάσεων θα μεταφέρεται σε μηχανές, οι γιατροί λένε ότι οι προβλέψεις θα αποκτήσουν πολύ παραπάνω ρόλο προσωπικού υποστηρικτή, φίλου και μέντορα και οι ανθρώπινες δεξιότητες σε αυτές τις κατευθύνσεις θα γίνουν σημαντικότερες γι' αυτόν τον τομέα.

Θα μπορέσουμε όμως να δημιουργήσουμε αρκετές νέες θέσεις εργασίας για τα νέα επαγγέλματα; Και ποια θα είναι, τελικά, αυτά τα επαγγέλματα που θα είναι επαρκώς μαζικά; Όταν ρώτησα τον Peter Schwartz σε μια τηλεδιάσκεψη που κάναμε για ένα event του Center for the Digital Economy του MIT, μου απάντησε: «Νίκο, δεν ξέρω. Αλλά, θυμήσου ότι αν λέγαμε σε κάποιον το 1950 πως μετά από 60 χρόνια ένας τεράστιος αριθμός κατοίκων του πλανήτη θα έβρισκε απασχόληση σε τουριστικά επαγγέλματα, θα του φαινόταν απίστευτο». Βέβαια, αυτό δεν συνεπάγεται ότι θα μπορέσουμε να δημιουργήσουμε όντως τόσες θέσεις εργασίας παγκοσμίως ούτε ότι αυτό θα συμβεί αρκετά γρήγορα ώστε να αποφευχθούν αρνητικά μεταβατικά φαινόμενα.


Η σημερινή επανάσταση γίνεται σε έναν πολύ πιο παγκοσμιοποιημένο κόσμο, όπου το outsourcing, η εξ αποστάσεως εργασία και το λεγόμενο gig economy βρίσκονται σε πρωτόγνωρα επίπεδα, και μάλιστα ανάμεσα σε χώρες με πολύ διαφορετικά επίπεδο εισοδήματος, κόστους ζωής, και συχνά με αρκετά διαφορετικά αξιακά και πολιτικά συστήματα. Γίνεται, επίσης, στη συγκεκριμένη δύσκολη στιγμή του αυξημένου λαϊκισμού, της όξυνσης της ανισότητας και της αύξησης της παγκόσμιας αστάθειας. Ακόμα, όπως λέει και ο Klaus Schwab, ο ιδρυτής του Διεθνούς Οικονομικού Φόρουμ, η 4η βιομηχανική επανάσταση δεν αλλάζει μόνο τον κόσμο γύρω μας αλλά και εμάς τους ίδιους.


Ίσως λοιπόν, αυτή η στιγμή να αποτελεί όχι μόνο μια μοναδική ευκαιρία για να ξανασκεφτούμε την κατεστημένη σχέση μεταξύ εργασίας, βιοπορισμού, και προσωπικής ταυτότητας, αλλά ενδεχομένως και για να πειραματιστούμε με άλλες εναλλακτικές θεωρήσεις των σχέσεων μεταξύ αυτών των τριών εννοιών, και επίσης και μεταξύ των τριών αυτών αλλά και άλλων πιθανώς σημαντικών εννοιών. Και πέρα από τις εναλλακτικές – ή και καινοτόμες – θεωρήσεις, πρέπει να υπάρξει και προσεκτικός πιλοτικός πειραματισμός, για να δούμε τελικά όχι μόνο το τι φαντάζει ενδιαφέρον, αλλά το τι δουλεύει, και το τι συνέπειες κρύβει η κάθε εναλλακτική επιλογή. Και όλα αυτά δεν συμβαίνουν πάνω σε έναν άδειο καμβά– αλλά πάνω στον σημερινό κόσμο, με τις συσχετίσεις δυνάμεων του, με τις τάσεις και συνήθειες και παραδόσεις του.


Εν τέλει, είναι σημαντικό και πολύ επικίνδυνο σφάλμα να θεωρούμε μονοδιάστατα τους ανθρώπους παραγωγικές μονάδες-εργάτες όταν διαλογιζόμαστε και αποτιμούμε τις αλλαγές στα εργασιακά και εκπαιδευτικά συστήματα της γης. Οι άνθρωποι έχουν τουλάχιστον δύο ακόμα όψεις που πρέπει να ληφθούν υπόψη: είναι πολίτες και άνθρωποι. Και για τις δημοκρατίες, το να έχουν οι άνθρωποι τις απαραίτητες δεξιότητες για να λειτουργήσουν ως πολίτες που απαρτίζουν τις κοινωνίες μας είναι πρωταρχικής σημασίας. Και για όλη την ανθρωπότητα, το να επιτρέψουμε στον κάθε άνθρωπο, ανεξαρτήτως του πού έτυχε να γεννηθεί, να φτάσει στην αυτοεκπλήρωση και να έχει μια ζωή που αξίζει να τη ζεις θα έπρεπε να είναι βασικός στόχος.

Ο Έλληνας διδάκτορας του ΜΙΤ που δημιούργησε το πρώτο αραβόφωνο ρομπότ μιλά στη LIFO Facebook Twitter
Τα όρια των δυνατοτήτων και της συλλογικής νοημοσύνης (και κυρίως της δυνατότητας ευφυών επεμβάσεων στον κόσμο) των υβριδικών ομάδων με ανθρώπους και μηχανές, που μπορεί να εκτείνονται και σε μεγάλες γεωγραφικές εκτάσεις, ενδέχεται να ξεπεράσουν κατά πολύ τα όρια και της σημερινής τεχνητής νοημοσύνης αλλά και της ατομικής ανθρώπινης νοημοσύνης.


— Έχετε δημιουργήσει το πρώτο διαλογικό android ρομπότ αραβικής γλώσσας στον κόσμο. Υπάρχουν ευφυή ρομπότ που μπορούν να έρθουν σε φυσική διάδραση και συνεργασία με ανθρώπους; Ποιες ανατροπές μπορεί να δημιουργηθούν σε οικονομικό και κοινωνικό επίπεδο;

Είναι ενδιαφέρον το ότι ο Αβικέννας, το αραβόφωνο διαλογικό ανθρωποειδές ρομπότ που είχα δημιουργήσει πριν από κάποια χρόνια, πήρε αρκετή παγκόσμια δημοσιότητα. Μέσω ομιλίας στα αραβικά, ο Αβικέννας είχε δυνατότητες για διάλογο και συναισθηματικές εκφράσεις στο ιδιαίτερα αληθοφανές ανθρωποειδές πρόσωπό του, όπως επίσης και για χειρονομίες με τους βραχίονες. Έτσι, με κατάλληλα σχεδιασμένα πειράματα και ερωτηματολόγια ταξίδεψε σε διάφορες εκδηλώσεις και χώρες και μίλησε με πάνω από 1.500 ανθρώπους. Αργότερα πραγματοποιήθηκαν πειράματα και με άλλες γλώσσες, με αναγνώριση ανθρώπινων συναισθημάτων, με τη χρήση πληροφοριών από κοινωνικά δίκτυα για τους διαλόγους και με το ρομπότ σε ρόλο αφηγητή ιστοριών, μεταξύ άλλων.


Τα αρχικά πειράματα απέδωσαν δύο ενδιαφέρουσες δημοσιεύσεις στον χώρο που συνήθως ονομάζεται διαπολιτισμική διάδραση ανθρώπου-ρομπότ. Συγκεκριμένα, έδειξαν ότι μεταξύ των τριών ζωνών της Μέσης Ανατολής (Κόλπος (Khaleej), της Εγγύς Ανατολής (Shaam) και της Βόρειας Αφρικής (Maghreb) υπάρχει μείωση της γενικής αποδοχής των ανθρωποειδών ρομπότ, και μάλιστα ότι σε σχέση με τις εφαρμογές των ρομπότ ιδιαίτερες διαφορές υπήρχαν μεταξύ της Δύσης, του ισλαμικού κόσμου και της ινδικής χερσονήσου. Η Δύση ήταν αρνητική, το Ισλάμ ουδέτερο, η δε ινδική χερσόνησος θετική. Η «απανθρώπιση» αυτών των τομέων, λοιπόν, στα δυτικά μάτια φάνταζε αρκετά αρνητικά φορτισμένη. Από την άλλη, ενώ το Ισλάμ είχε, σε κάποιες πιο φονταμενταλιστικές εκδοχές του, πρόβλημα με την ανθρωποειδή εμφάνιση του ρομπότ, όπως επιβεβαιώθηκε και από τα πειράματά μας, ήταν σχετικά ουδέτερο σε σχέση με τη χρήση ανθρωποειδών σε νοσοκομεία και σχολεία, ίσως και λόγω της αρχής της λειτουργικότητας.


Γιατί όμως ανθρωποειδές ρομπότ, και γιατί να ονομαστεί Αβικέννας; Ανθρωποειδές, γιατί σε κάποιες εφαρμογές η μορφή αυτή είναι προτιμότερη. Σε επικοινωνιακές εφαρμογές κυρίως έχουμε συνηθίσει να «διαβάζουμε» (συχνά μη συνειδητά) τη μη λεκτική γλώσσα των προσώπων και σωμάτων των συνομιλητών μας: μικροκινήσεις του κεφαλιού, εκφράσεις του προσώπου και άλλα πολλά. Βέβαια, με τα ανθρωποειδή υπάρχει και το ανεπιθύμητο φαινόμενο της «αφύσικης κοιλάδας», όπως το ονόμασε ο Ιάπωνας Μασαχίρο Μόρι πριν από αρκετά χρόνια. Καθώς ένα ανθρωποειδές γίνεται όλο και πιο ανθρωπόμορφο, ενώ αρχικά η ελκυστικότητα αυξάνει, από ένα σημείο και μετά μοιάζει με ζόμπι, με ρεαλιστικό ρομπότ. Σύμφωνα με μια πιθανή ερμηνεία αυτό συμβαίνει γιατί υπάρχει μια μεγάλη αντίθεση ανάμεσα στη «στατική» ρεαλιστική ανθρώπινη εμφάνιση του ρομπότ, που δημιουργεί και αυτόματες προσδοκίες ανθρώπινης συμπεριφοράς, και στην ορατά μηχανική και περιορισμένη πραγματική συμπεριφορά του.

Γιατί όμως ανθρωποειδές ρομπότ, και γιατί να ονομαστεί Αβικέννας; Ανθρωποειδές, γιατί σε κάποιες εφαρμογές η μορφή αυτή είναι προτιμότερη. Σε επικοινωνιακές εφαρμογές κυρίως έχουμε συνηθίσει να «διαβάζουμε» (συχνά μη συνειδητά) τη μη λεκτική γλώσσα των προσώπων και σωμάτων των συνομιλητών μας: μικροκινήσεις του κεφαλιού, εκφράσεις του προσώπου και άλλα πολλά.


Αλλά, πέρα από αυτό, υπάρχουν και πολλά άλλα ενδιαφέροντα ψυχολογικά φαινόμενα στη διάδραση ανθρώπου-ρομπότ ως επιστημονικό πεδίο. Έτσι, η επιλογή μιας τέτοιας μορφής για το ρομπότ όχι μόνο το έκανε ιδανικό για διάφορα πειράματα διάδρασης αλλά και ελκυστικό για την ενσωμάτωση μιας πληθώρας υποσυστημάτων τεχνητής νοημοσύνης (π.χ. μηχανική όραση, αναγνώριση φωνής και σύνθεση διαλόγου, συναισθηματική νοημοσύνη, μίμηση και σύνθεση κινήσεων κ.ά.). Επίσης, το έκανε ιδιαίτερα ελκυστικό για τα μέσα μαζικής ενημέρωσης, δίνοντας έτσι προβολή στο εργαστήριο μου, στις τεχνολογίες αυτές, στις τεχνολογικές δημιουργίες των Εμιράτων και επίσης σε κάτι ακόμα πιο σημαντικό, στον χρήσιμο συμβολισμό που προκύπτει από την επιλογή του Αβικέννα ως ονόματος του ρομπότ.


Συγκεκριμένα, ο Αβικέννας θεωρείται ο βασικός συνεχιστής του Γαληνού και τα ιατρικά του κείμενα αποτέλεσαν το βασικό εγχειρίδιο των ευρωπαϊκών πανεπιστημίων για τρεις αιώνες μετά τον θάνατό του. Έτσι, προκύπτει εύλογα ένα απλό μήνυμα: εφόσον η Μέση Ανατολή και η ευρύτερη περιοχή γύρω από τον κόλπο έχουν υπάρξει ήδη κοιτίδα μεγάλης επιστημονικής προσφοράς στην ανθρωπότητα, θα μπορούσαν να ξαναϋπάρξουν. Αλλά προκύπτει και ένα ακόμα μήνυμα: ο Αβικέννας δεν διασυνδέεται μόνο με τις επιστημονικές και φιλοσοφικές παραδόσεις της ευρύτερης περιοχής του, της Μέσης Ανατολής. Ο δάσκαλός του των μαθηματικών ήταν Ινδός και ο ίδιος ο Αβικέννας υπήρξε αφοσιωμένος μελετητής του Αριστοτέλη. Έτσι καταδεικνύεται ότι η επιστημονική και φιλοσοφική γνώση αποτελεί αγαθό αλλά και δημιούργημα ολόκληρης της ανθρωπότητας: τα επίκεντρά της μεταφέρονται από πολιτισμό σε πολιτισμό και συν-δημιουργείται τελικά από την ανθρωπότητα. Και βέβαια, ο ρόλος και η κληρονομιά κάποιων εξεχουσών μορφών, όπως ο Αριστοτέλης, παραμένει διαχρονικά τεράστιος.


Πέρα από τη δημοσιότητα, ο Αβικέννας αποτελεί μόνο ένα από τα διάφορα έργα του εργαστηρίου μου. Ένα σημαντικό μέρος των δημοσιεύσεών μου σχετίζεται με τον Ρίπλεϊ, το ρομπότ του οποίου το νοητικό σύστημα είχα δημιουργήσει αρχικά ως διδάκτορας του ΜΙΤ και μετά από πολλές όψεις και σχετικές θεωρίες ανέπτυξα.


Άλλες, πιο πρόσφατες ερευνητικές δουλειές σχετίζονται με μια οργανωμένη αναδρομή και ενοποίηση-πρόταση μελλοντικών προόδων στον χώρο της γλωσσικής και μη γλωσσικής επικοινωνίας ανθρώπου-ρομπότ που έχει φτάσει σχεδόν τις 200 αναφορές, μόλις 4 χρόνια από τη δημοσίευσή του. Επίσης, σχετίζονται με το ζήτημα του πώς εξελίσσονται σημαντικά πολιτικά φαινόμενα και φαινόμενα σχετικά με την ηλεκτρονική διακυβέρνηση σαν την εισαγωγή του προγράμματος κοινωνικής ασφάλισης των ΗΠΑ (Obamacare), όπως αυτά αποτυπώνονται στα κοινωνικά δίκτυα.

Ο Έλληνας διδάκτορας του ΜΙΤ που δημιούργησε το πρώτο αραβόφωνο ρομπότ μιλά στη LIFO Facebook Twitter
Το κομβικό ζήτημα είναι τα ρομπότ να μην αντικαθιστούν αλλά να συμπληρώνουν τους ανθρώπους

— Τι σημαίνει η επαυξημένη πραγματικότητα και τι δυνατότητες ανοίγει;

Η επεκτεταμένη πραγματικότητα ως πεδίο περιλαμβάνει την επαυξημένη πραγματικότητα και την εικονική. Η εικονική πραγματικότητα σε αποκόπτει σχεδόν πλήρως από τη φυσική πραγματικότητα και συνήθως εισέρχεται κανείς σε αυτήν με ειδικά ματογυάλια προβολής ή μέσω περιβαλλόντων βύθισης. Αντιθέτως, η επαυξημένη πραγματικότητα δεν σε αποκόπτει πλήρως από τη φυσική πραγματικότητα, απλώς δείχνει σαν να προβάλει πάνω της πρόσθετα αντικείμενα, εικόνες και τίτλους που δεν βρίσκονται στην πραγματικότητα εκεί και ενδέχεται να «καλύπτουν» τα πραγματικά αντικείμενα, αν αυτό είναι επιθυμητό.

Για να επιτευχθεί όμως κάτι τέτοιο πρέπει να μπορεί να ανιχνεύεται με αρκετή ακρίβεια η σχετική θέση και η διεύθυνση των ανθρώπινων ματιών σε σχέση με τον περιβάλλοντα χώρο και να μπορεί να «προβληθεί» στο μάτι η επαύξηση της πραγματικότητας. Αυτό γίνεται είτε με προβολή, π.χ. μέσω των γυαλιών Google glass, είτε κοιτώντας τον κόσμο μέσα από την οθόνη του κινητού σου, το οποίο τροφοδοτείται από την κάμερα αλλά συγχρόνως υπερθέτει τα εικονικά αντικείμενα της επαύξησης στην εικόνα της κάμερας που κοιτά προς τον πραγματικό κόσμο μπροστά σου.


Έτσι, ανοίγουν οι ορίζοντες για πολλές ενδιαφέρουσες εφαρμογές στον τουρισμό και στην αρχαιολογία, δηλαδή θα μπορούσε κανείς να βλέπει πάνω από τα ερείπια προσομοιώσεις του παρελθόντος. Άλλες, πιο απλές, αλλά πολύ χρήσιμες εφαρμογές έχουν να κάνουν με διαδραστικά εγχειρίδια επισκευών, χρήσιμα για τη βιομηχανία ή και τους ιδιώτες. Πέρα από τις πολλά υποσχόμενες εφαρμογές, υπάρχουν και αρκετοί κίνδυνοι από την επεκτεταμένη πραγματικότητα. Πριν από 65χρόνια, στο βιβλίο του «The human use of human beings ο ακαδημαϊκός πρόγονός μου Νόρμπερτ Βίνερ φοβόταν ότι ακόμα και αν απελευθερώνονταν οι άνθρωποι από τις ανεπιθύμητες εργασίες, θα μπορούσαν να χάνουν τον χρόνο τους σε ανούσιους εθισμούς μέσω του ραδιοφώνου, της τηλεόρασης, του υπολογιστή, περνώντας σε μια κατάσταση όπου εκατομμύρια ώρες θα χάνονται καθημερινά μέσα σε εθιστικά περιβάλλοντα εικονικής πραγματικότητας.

Βέβαια, πέρα από την εθιστικότητα, υπάρχει η μεταφορική «τοξικότητα» αλλά και πιο υπόγειες αλλαγές, η σταδιακή ολίσθηση της κοσμοθεώρησης των θεατών-συμμετεχόντων μέσα από τα εικονικά δρώμενα και της συμπεριφοράς τους στον πραγματικό κόσμο. Υπάρχουν όμως και δυνατότητες για ιδιαίτερες θετικές και χρήσιμες εφαρμογές αυτών των τεχνολογιών που μπορούν να μας φέρουν πιο κοντά, και να συνεισφέρουν σημαντικά προς ένα καλύτερο κόσμο.


Τέλος, τέσσερις ιδιαίτερα σημαντικές δεξιότητες για να μπορέσει κανείς να προχωρήσει στον κόσμο που έρχεται είναι α) η διαχείριση του μεγάλου όγκου πληροφοριών και δυνατοτήτων που του δίνεται, ώστε να μην καταλήξει μειονέκτημα το εύρος επιλογών, β) η ικανότητα να μπορεί κανείς να ξεχωρίζει το επαρκώς αληθές από τα περίτεχνα αληθοφανές, το οποίο όμως συχνά είναι και επικίνδυνα ψευδές, γ) η ικανότητα να ξεχωρίζει κανείς τη φυσική πραγματικότητα από τις διάφορες μορφές εικονικής προβολής και δ) η δυνατότητα να ξεχωρίζει κανείς τις επεμβάσεις των τεχνητά νοημόνων οντοτήτων σε αντιδιαστολή με των ανθρώπινων, και να διαχειρίζεται τις σχέσεις του. Πέραν αυτών, πολλές άλλες νέες προκλήσεις ανοίγουν και με την εικονική πραγματικότητα αλλά και με την 4η βιομηχανική επανάσταση γενικότερα.


— Ποιες είναι οι σκοτεινές όψεις των νέων δυνατοτήτων;

Αόρατη ηλεκτρονική παρακολούθηση και ψυχολογική ανάλυση, στοχευμένες ανεπαίσθητες επεμβάσεις σε οικονομικό και ερωτικό επίπεδο, επηρεάζοντας επιθυμίες, φόβους και άλλα πολλά, που σε όποιον δεν μπορεί να δει τη συνολική εικόνα και τον μηχανισμό που τις ενορχήστρωσε θα μοιάζουν με «τυχαίες ατυχίες». Επίσης, δημιουργία και διασπορά επιστημονικά κατασκευασμένων ψευδών που στοχοποιούν άτομα ή και ολόκληρες ομάδες στα μάτια επιλεγμένων τρίτων, συναισθηματική χειραγώγηση και χιλιάδες άλλες καινοτόμες τεχνικές ελέγχου, γαλούχησης, εξαρτήσεων, «ήπιων μέσων» αλλά και μεγάλη καταστροφικότητα μέσω του κυβερνοπολέμου κατά ατόμων, εταιρειών, κρατών.


— Τα επόμενα χρόνια μπορεί να χαθεί τελείως η ιδιωτικότητα;

Ναι, οι εκθετικά αυξανόμενες δυνατότητες για παρακολούθηση και για εξαγωγή συμπερασμάτων από τη συνολική πληροφορία που υπάρχει για κάποιον άνθρωπο ενδέχεται να μειώσουν δραστικά την ιδιωτικότητα. Μάλιστα, πρέπει να κάνουμε σαφές το ότι, πέρα από τους αισθητήρες που καταγράφουν τις σωματικές μας πράξεις, από τις οποίες αρκετές δεν είναι συνειδητά ελέγξιμες, άρα προδίδουν και νοητικές καταστάσεις, αρχίζουμε σιγά-σιγά να έχουμε και αισθητήρες που καταγράφουν απευθείας νοητικές καταστάσεις, όπως το ηλεκτροεγκεφαλογράφημα. Βέβαια, αυτοί βρίσκονται ακόμα σε πρώιμο στάδιο και είναι πολύ περιορισμένα και χονδροειδή αυτά που μπορούν να διαβάσουν από το μυαλό μας. Αλλά, ακόμα κι αν κάποιες από αυτές τις τεχνολογίες έχουν ορατά φράγματα επιδόσεων, είναι αρκετά ασφαλές να προβλέψουμε ότι με αυτές και με νεότερες τεχνολογίες οι δυνατότητες ανάγνωσης και καταγραφής ανθρώπινων νοητικών καταστάσεων από τις μηχανές ολοένα και θα αυξάνονται.


Και πάλι, όμως, πέρα από τις θετικές εφαρμογές αυτών των δυνατοτήτων υπάρχουν και δυστοπίες. Π.χ. ενώ το Σύνταγμα σε αρκετές χώρες προασπίζει την ελευθερία του λόγου, μήπως θα έπρεπε να προασπίζει και την ελευθερία της σκέψης; Πρακτικά, πώς θα μπορούσε να το κάνει αυτό, λαμβάνοντας υπόψη τις νέες δυνατότητες; Φανταστείτε ένα δικτατορικό καθεστώς στο οποίο αυτές οι τεχνικές χρησιμοποιούνται για να ανιχνευτούν «επικίνδυνες» σκέψεις των πολιτών. Θα θέλατε να ζείτε σε έναν τέτοιο κόσμο, που σύντομα δεν θα αποτελεί απλώς δημιουργία της επιστημονικής φαντασίας αλλά ενδεχόμενη πραγματικότητα;

Όλοι σχεδόν συμφωνούν στο ότι οι χειρωνακτικές εργασίες θα γίνονται ολοένα και λιγότερο σημαντικές, όπως επίσης και οι χαμηλού επιπέδου νοητικές εργασίες. Δεξιότητες σχετικές με την αποδοτική και γρήγορη επανεκπαίδευση και τη μάθηση, με τη δημιουργικότητα και την επίλυση προβλημάτων, με τη συνεργασία ομάδων και τη συναισθηματική, κοινωνική και διαπολιτισμική νοημοσύνη γίνονται όλο και πιο σημαντικές.


Επίσης, ανοίγουν πάλι αρκετά από τα κλασικά ζητήματα. Πρώτον, ενώ στις ευρωπαϊκές δημοκρατίες, πέρα από περιπτώσεις εθνικής ασφάλειας, δύσκολα θα γινόταν δεκτή η γενικευμένη χρήση τεχνικών αστυνόμευσης της σκέψης, σε άλλα καθεστώτα, και ενδεχομένως με την κατάλληλη συγκάλυψη, έχουν αρχίσει ήδη να γίνονται πειραματισμοί με τους προδρόμους των τεχνικών αυτών. Δεύτερον, ακόμα και αν η κοινή γνώμη στην Ευρώπη σήμερα είναι αντίθετη με κάτι τέτοιο, κανείς δεν μας εγγυάται ότι θα είναι και αύριο. Είτε με τη σταδιακή εισαγωγή τους ως παιχνιδιών που είναι της μόδας, είτε με απότομες αλλαγές της κοινής γνώμης μετά από κάποια δραματικά γεγονότα που αποκτούν μεγάλη δημοσιογραφική κάλυψη, θα μπορούσαν να αλλάξουν πολύ οι συνήθειες των συμπολιτών μας και να μεγιστοποιηθεί η ανοχή τους. Τρίτον, αν υπάρχει ισχυρός ανταγωνισμός παγκοσμίως, τα πιο αυταρχικά καθεστώτα ενδέχεται να αποκτήσουν ένα πλεονέκτημα από την εισαγωγή τεχνικών ανάγνωσης νοητικών καταστάσεων. Τέταρτον, το σημαντικό είναι ποιός έχει πρόσβαση σε ποια πληροφορία ‒ όλες οι τεχνικές για επιλεκτική ανωνυμοποίηση και αφαίρεση μερών δεν είναι και απλές και ούτε επιτυγχάνουν πάντα καθολικά τον σκοπό τους.


— Αν ένας νέος ζητούσε τη συμβουλή σας για το πού να επενδύσει, τι θα του απαντούσατε;

Όλοι σχεδόν συμφωνούν στο ότι οι χειρωνακτικές εργασίες θα γίνονται ολοένα και λιγότερο σημαντικές, όπως επίσης και οι χαμηλού επιπέδου νοητικές εργασίες. Δεξιότητες σχετικές με την αποδοτική και γρήγορη επανεκπαίδευση και τη μάθηση, με τη δημιουργικότητα και την επίλυση προβλημάτων, με τη συνεργασία ομάδων και τη συναισθηματική, κοινωνική και διαπολιτισμική νοημοσύνη γίνονται όλο και πιο σημαντικές. Κυρίως, γίνονται εξαιρετικά σημαντικές οι δεξιότητες που επιτρέπουν γρήγορη και αποδοτική μάθηση και συνεχιζόμενη κατάρτιση, μια και λόγω του ρυθμού της προόδου θα είναι εξαιρετικά σημαντική η περιοδική εκ νέου κατάρτιση. Επίσης, ο πυρήνας των πιο κλασικών γνώσεων, που παραμένουν αμετάβλητες στον χρόνο, συμπεριλαμβανομένων της φιλοσοφίας, της λογικής, των μαθηματικών και της επιστημονικής μεθόδου, παραμένει σημαντικός.


Ας προσπαθήσει, λοιπόν, κάθε νέος να έρθει σε επαφή και να γνωρίσει ένα καλό δείγμα ανθρώπων από πολλούς δρόμους της ζωής και πολλά μέρη, αλλά και έναν επαρκή αριθμό επιλεγμένων προσωπικοτήτων που να τις θεωρεί βαθιά ενδιαφέρουσες και αξιόλογες.

Ο Έλληνας διδάκτορας του ΜΙΤ που δημιούργησε το πρώτο αραβόφωνο ρομπότ μιλά στη LIFO Facebook Twitter
Μαθήτριες αγγίζουν το ανθρωποειδές.


— Όταν φύγατε από την Ελλάδα, πόσο διαφορετικό ήταν το εκπαιδευτικό επίπεδο που αντιμετωπίσατε;

Υπήρχαν κάποια αρκετά συχνά εμφανιζόμενα χαρακτηριστικά του ελληνικού πανεπιστημίου όπως τα βίωσα κατά τη διάρκεια του προπτυχιακού μου τη δεκαετία του '90. Πρώτα απ' όλα, υπήρχαν όλοι οι δυνατοί συνδυασμοί ικανότητας και αφοσίωσης στο εκπαιδευτικό προσωπικό. Υπήρχαν καθηγητές ικανότατοι σε κατάρτιση και διδακτικές ικανότητες, που ήταν όντως αφοσιωμένοι στο έργο τους, αλλά υπήρχαν και καθηγητές ικανοί που δεν νοιάζονταν ούτε επένδυαν προσπάθεια και χρόνο στο πανεπιστήμιο, καθηγητές με αρκετά λιγότερα από τα απαιτούμενα προσόντα, που, παρ' όλα αυτά, προσπαθούσαν, και κάποιοι ανίκανοι. Και οι τέσσερις συνδυασμοί διδακτικού προσωπικού υπήρχαν και παρέμεναν. Και συχνά, άτομα από τις όχι και τόσο επιθυμητές κατηγορίες ήταν αρκετά ισχυρά σε πολιτικό επίπεδο.

Η δεύτερη σημαντική παρατήρηση είναι ότι οι κομματικοί μηχανισμοί και οι νεολαίες έπαιζαν πολύ σημαντικό ρόλο και προωθούσαν συχνότατα την αναξιοκρατία, ωφελώντας τα μέλη τους, που μερικές φορές, σε άλλες χώρες θα άγγιζαν τα όρια της παρανομίας. Τρίτον, τα περισσότερα μαθήματα ήταν φτιαγμένα έτσι ώστε να μειώνεται η εργασία των διδασκόντων ‒ κάποιοι έλειπαν όποτε ήθελαν και χωρίς προειδοποίηση, τέταρτον, δεν υπήρχαν πρόοδοι και στα περισσότερα μαθήματα δεν υπήρχαν και εργασίες. Πέμπτον, υπήρχαν αρκετά σημαντικά κενά στο εκπαιδευτικό πρόγραμμα. Έκτον, είχαμε ελάχιστη επαφή με την πράξη και ελάχιστο γενικότερο πλαίσιο (ελάχιστα μαθήματα επιλογής). Έβδομον, είχαμε πολύ λίγους ξένους φοιτητές, έτσι χάνονταν μερικά από τα μεγάλα πλεονεκτήματα ενός πιο διεθνούς φοιτητικού πληθυσμού.

Αντιθέτως, στην Αμερική, στις περισσότερες περιπτώσεις, υπήρχε ένα ελάχιστο απαιτούμενο επίπεδο ικανότητας και αφοσίωσης για τους καθηγητές και ενώ τα κόμματα δεν είχαν θέση ούτε ανάμειξη στα πανεπιστήμια, τα κέντρα μαθητικών δραστηριοτήτων βοηθούσαν και ενθάρρυναν τους μαθητές να δημιουργούν κάθε είδους συλλόγους και οργανώσεις, μαθαίνοντάς τους να λειτουργούν αποδοτικά σε επίπεδο ρόλων, στόχων, απολογισμών, οικονομικών, επαφών με Αρχές και οργανισμούς και πολλών ακόμα πραγμάτων, απαραίτητων όχι μόνο για την επιχειρηματικότητα αλλά κυρίως για τη δημιουργία οργανώσεων που υποστηρίζουν την αυτοοργάνωση, τη ρέουσα και προσαρμοστική ομαδικότητα και την Κοινωνία των Πολιτών. Υπήρχαν πρόοδοι πάντα και εργασίες κάθε 1-2 εβδομάδες σε όλα τα μαθήματα, έτσι μάθαινε κανείς πολύ πιο ενεργά, πολύ πιο σταθερά και χωρίς τα πάντα να συγκεντρώνονται στις τελικές εξετάσεις. Κάποιες εργασίες ήταν για ομάδες 2-4 ατόμων, γεγονός που ανέπτυσσε δεξιότητες σχετικά με την ομαδική συνεργασία.


Τις ελάχιστες φορές που οι καθηγητές απουσίαζαν υπήρχε είτε αναπλήρωση είτε προειδοποίηση εκ των προτέρων. Το πρόγραμμα σπουδών είχε καλή ισορροπία και κάλυψη και ελάχιστα κενά. Υπήρχε άμεση επαφή με την πράξη με παραδείγματα από τον πραγματικό χώρο της εργασίας, ανθρώπων που είχαν πρόσφατη ή και περιοδική επαφή με την πράξη, και πολλές δυνατότητες για πρακτική εξάσκηση, που μάλιστα σε κάποιες χώρες αποτελεί και υποχρεωτικό μέρος του προγράμματος σπουδών, με 3 τρίμηνα πρακτικής κατανεμημένα κατά τη διάρκεια του προγράμματος σπουδών.

Ο Έλληνας διδάκτορας του ΜΙΤ που δημιούργησε το πρώτο αραβόφωνο ρομπότ μιλά στη LIFO Facebook Twitter
Ο κόσμος δεν είναι απλά απομονωμένα συστήματα – αντιθέτως, τα πάντα είναι συνδεδεμένα. Και υπάρχει η οπτική γωνία της πληροφορίας, του αριθμού, και του αλγορίθμου – που καθρεπτίζοντας όψεις της πραγματικότητας σε ένα πολύ λιγότερο ρευστό υπόβαθρο, μας δίνει νέες δυνατότητες που φάνταζαν αδύνατες παλαιότερα.

Σχεδόν όλα τα μαθήματα από άλλα τμήματα σπουδών μπορούσαν να χρησιμοποιηθούν ως μαθήματα επιλογής και η τελεσίδικη δήλωση πρωτευόντων και δευτερευόντων κατευθύνσεων γινόταν στον δεύτερο χρόνο του προγράμματος σπουδών, έτσι κάθε φοιτητής μπορούσε να πειραματιστεί προτού δεσμευτεί στις κατευθύνσεις στις οποίες θα πρέπει να εμβαθύνει. Βεβαίως, τα καλά πανεπιστήμια του εξωτερικού προσπαθούσαν ιδιαίτερα να έχουν ένα σχετικά μεγάλο κομμάτι των φοιτητών τους (15-50%) από άλλες χώρες, στοχεύοντας σε υποσχόμενα νέα μυαλά που θα αποτελούσαν και ζωντανές γέφυρες στο μέλλον.


Ένα από τα σημαντικά θετικά στοιχεία της Ελλάδας είναι η δωρεάν εκπαίδευση που εξασφαλίζει σε κάθε παιδί την πρόσβαση στην ανώτατη εκπαίδευση, ιδανικά με κριτήρια αξιοκρατικά και όχι πλουτοκρατικά ή νεποτισμού. Επίσης, το να εργάζονται οι φοιτητές ‒για λίγες ώρες όμως, σε εβδομαδιαία βάση‒ με αντάλλαγμα έξτρα εισόδημα αλλά και εμπειρίες, είτε σε υπηρεσίες του πανεπιστημίου είτε (όπως συνήθως γίνεται με τους μεταπτυχιακούς) ως βοηθοί έρευνας ή διδασκαλίας, είναι κάτι το θετικό από πολλές πλευρές.


Τέλος, ο καταστροφικός παραλογισμός του ζητήματος που είχε την ψευδή ονομασία «ζήτημα του πανεπιστημιακού ασύλου» ήταν κάτι που όχι μόνο δεν υπήρχε στο εξωτερικό αλλά δεν θα μπορούσε καν να γίνει αντιληπτό. Η ελευθερία του λόγου και της σκέψης νομίζω πως είναι σημαντικότατη αρχή. Η περιοδική κατάληψη και πυρπόληση των πανεπιστημίων από ομάδες που δεν είχαν να πουν τίποτα μέσω αυτής της ενέργειας δεν σχετίζεται με την ελευθερία του λόγου. Όποιος θέλει πραγματικό πανεπιστημιακό άσυλο, πρέπει να αστυνομεύσει τα πανεπιστήμια με ιδιωτική ασφάλεια και να φτιάξει ειδικούς χώρους ασύλου με ελεύθερη πρόσβαση και με μέσα επικοινωνίας με τον πληθυσμό του πανεπιστημίου και της πόλης (διαδικτυακά, ραδιοφωνικά κ.λπ.).

Ένα από τα μεγαλύτερα αγαθά είναι ο χρόνος και η ροή του χρόνου.Έχουμε 365 μέρες τον χρόνο, 100 χρόνια το πολύ εδώ που στεκόμαστε, δηλαδή 36.500 μέρες, που ισοδυναμούν με λιγότερο από 1 εκατομμύριο ώρες. Δεν είναι ούτε πολλές ούτε λίγες. Ας τις γεμίσουμε όπως θα άξιζε να γεμίζουν κι ας γνωρίσουμε, ας βοηθήσουμε και ας αγκαλιάσουμε ένα όλο και μεγαλύτερο μέρος του κόσμου και της ανθρωπότητας μέσα από αυτές.

Είναι πολύ καλό που, μετά από πολλές δεκαετίες, η συνεχιζόμενη τραγελαφική γελοιότητα της τελετουργικής πυρπόλησης του πανεπιστημίου και των περιβαλλόντων χώρων από τους «γνωστούς άγνωστους» φαίνεται να έχει τελειώσει. Είναι σημαντικό να τονιστεί ότι το πεδίο της ανώτατης εκπαίδευσης παγκοσμίως περνά μια περίοδο όχι και τόσο γρήγορης, αλλά ριζικής αλλαγής. Από τη μια η υποτιθέμενη αυθεντία του κάθε τοπικού καθηγητάκου χάνεται, μια και η διδασκαλία των πραγματικά κορυφαίων υπάρχει πια εύκολα προσβάσιμη στο διαδίκτυο, και η ικανότητα για βαθύτερη μάθηση μέσω αριστοτεχνικά φτιαγμένων βίντεο, κινουμένων σχεδίων, προσομοιώσεων, παιχνιδιών και εικονικής πραγματικότητας, όπως επίσης και ευφυών συστημάτων διδασκαλίας, επιτρέπει πολύ πιο προσωποποιημένη και αποδοτική μάθηση, και μάλιστα για ένα ολοένα μεγαλύτερο μέρος της ανθρωπότητας.

Από την άλλη, κάποια βασικά ζητήματα αυτοπροσδιορισμού, αξιοπρέπειας και ακαδημαϊκής ελευθερίας που θα έπρεπε να αποτελούν ακρογωνιαίους λίθους της πανεπιστημιακής κοινότητας χρειάζονται προσεκτική επανεξέταση και μεθοδευμένες προσπάθειες, ώστε να μην επιτρέψουν τον συνεχιζόμενο εκμαυλισμό και την αυξανόμενη εκπόρνευση αυτής της τόσο σημαντικής ομάδας ανθρώπων για το μέλλον της γνώσης, της παιδείας και της αλήθειας.


— Ποιος είναι ο μεγαλύτερός σας φόβος;

Προσωπικά, φοβάμαι περισσότερο μια ζωή χαμένη σε ανοησίες ή γεμάτη επαναλήψεις του μοτίβου του μύθου του Σίσυφου. Γενικότερα, φοβάμαι ένα πισωγύρισμα της ανθρωπότητας στη βία και στη βαρβαρότητα.


— Το μέλλον σε ποιους ανήκει;

Στα παιδιά μας, και στα παιδιά των παιδιών μας. Ας μην τους στερήσουμε ένα μέλλον άξιο να το ζει κανείς, αντιθέτως ας τους παραδώσουμε έναν κόσμο που να μην τα υποχρεώσει να σπαταλήσουν όλη τους την ενέργεια στο να ξεμπερδέψουν το κουβάρι και να λύσουν τα προβλήματα που έχουμε δημιουργήσει.


Ένα από τα μεγαλύτερα αγαθά είναι ο χρόνος και η ροή του χρόνου. Αυτό πραγματικά έχουμε, την υποκειμενική αίσθηση της ύπαρξης, τον τεράστιο καμβά του κόσμου, στον οποίο ζωγραφίζουμε και συνδημιουργούμε τις ζωές μας, με τις τροχιές μας και τις πινελιές μας και τις μουσικές μας να μπλέκονται με τους συνανθρώπους μας και να επηρεάζουν και τις ζωές τους. Έχουμε 365 μέρες τον χρόνο, 100 χρόνια το πολύ εδώ που στεκόμαστε, δηλαδή 36.500 μέρες, που ισοδυναμούν με λιγότερο από 1 εκατομμύριο ώρες. Δεν είναι ούτε πολλές ούτε λίγες. Ας τις γεμίσουμε όπως θα άξιζε να γεμίζουν κι ας γνωρίσουμε, ας βοηθήσουμε και ας αγκαλιάσουμε ένα όλο και μεγαλύτερο μέρος του κόσμου και της ανθρωπότητας μέσα από αυτές.

Τech & Science
1

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

ΔΕΙΤΕ ΑΚΟΜΑ

ΗΠΑ: Ομάδα φοιτητών εκτόξευσε «ερασιτεχνικό» πύραυλο πιο ψηλά από ποτέ

Τech & Science / Φοιτητές Ελληνοαμερικανού κοσμήτορα μηχανικής εκτόξευσαν «ερασιτεχνικό» πύραυλο πιο ψηλά από ποτέ

Η επιτυχία έχει και ελληνικό χρώμα, καθώς ο διακεκριμένος Ελληνοαμερικανός επιστήμονας, Γιάννης Γιόρτσος είναι Κοσμήτορας της σχολής μηχανικής του Πανεπιστημίου της Νότιας Καλιφόρνιας, στην οποία σπουδάζουν οι φοιτητές που έσπασαν το ρεκόρ
LIFO NEWSROOM
Τεχνητή νοημοσύνη με συνείδηση; Ναι, μέχρι το 2035 - Οι φόβοι για κοινωνική ρήξη

Τech & Science / Τεχνητή νοημοσύνη με συνείδηση; Ναι μέχρι το 2035 - Οι φόβοι για κοινωνική ρήξη

Η προοπτική για συστήματα τεχνητής νοημοσύνης με δικά τους συμφέροντα και ηθική αξία «δεν είναι πλέον ένα θέμα μόνο για την επιστημονική φαντασία ή το μακρινό μέλλον» λένε οι επιστήμονες
LIFO NEWSROOM
Τα φάρμακα «μπλοκμπάστερ» για την απώλεια βάρους αποκαλύπτουν όσα ακόμη δεν κατανοούμε για την παχυσαρκία

Τech & Science / Η παχυσαρκία είναι ασθένεια: Τι δείχνει πολυετής έρευνα στα νέα φάρμακα για την απώλεια βάρους

Πώς λειτουργούν τα GLP-1 φάρμακα - Η αμφιλεγόμενη χρήση, οι παρενέργειες, το υψηλό κόστος και η διαπίστωση πως οι περισσότεροι σταματούν έπειτα από 12 εβδομάδες
LIFO NEWSROOM