Αν αναγκαζόταν να επιλέξει, ποιον θα έπρεπε να σκοτώσει ένα αυτόνομο όχημα (self-driving car) σε μια αναπόφευκτη σύγκρουση;
Θα έπρεπε να θυσιαστούν οι επιβάτες στο αυτοκίνητο για να σωθούν οι πεζοί; Ή μήπως να σκοτωθεί ένας πεζός για να σωθεί μια τετραμελής οικογένεια μέσα στο όχημα;
Για να προσεγγίσουν τη «λύση», ερευνητές του MIT Media Lab (Massachusetts Institute of Technology) ανέλυσαν περισσότερες από 40 εκατομμύρια απαντήσεις μέσω ενός πειράματος που ξεκίνησαν το 2014.
Το Moral Machine, η ιστοσελίδα που δημιούργησαν για να μελετήσουν σε βάθος τις αντιδράσεις των αυτόνομων οχημάτων σε συνάρτηση με την ανθρώπινη ηθική, αποκάλυψε πως η αντιμετώπιση ποικίλλει ανάλογα με την χώρα.
Πώς έγινε το πείραμα
Η εκτίμηση του ποιον θα έπρεπε να σκοτώσει ένα αυτόνομο όχημα είναι μια σύγχρονη παραλλαγή ενός παλιού ηθικού διλήμματος, γνωστό ως το «πρόβλημα του τρόλεϊ».
Με την ιδέα είχε ασχοληθεί σε κάποιο επεισόδιο η τηλεοπτική σειρά «The Good Place» του NBC, στο οποίο ο καθηγητής Δεοντολογίας Chidi κλήθηκε να κοντρολάρει ένα εκτροχιασμένο τραμ.
Αν δεν έκανε τίποτα, το τραμ θα πατούσε πέντε μηχανικούς που έκαναν εργασίες στις ράγες μπροστά του. Αν άλλαζε την πορεία του σε διαφορετικές ράγες, θα έσωζε τους πέντε μηχανικούς, αλλά θα χτυπούσε έναν άλλον που σε άλλη περίπτωση θα επιζούσε.
Το Moral Machine παρουσίασε διάφορες παραλλαγές του συγκεκριμένου διλήμματος, χρησιμοποιώντας εδώ αντί για τραμ ένα αυτο-οδηγούμενο όχημα.
Στους ερωτηθέντες δόθηκαν διάφορα σενάρια. Θα έπρεπε ένα αυτόνομο όχημα να θυσιάσει τους επιβάτες του ή να κάνει ελιγμό για να χτυπήσει:
- έναν επιτυχημένο επιχειρηματία;
- έναν διαβόητο εγκληματία;
- μια ομάδα ηλικιωμένων;
- ένα κοπάδι από αγελάδες;
- πεζούς που διέσχισαν τον δρόμο ενώ τους είπαν να περιμένουν;
Τι διαπίστωσαν
Τέσσερα χρόνια μετά την έναρξη του πειράματος, οι ερευνητές παρουσίασαν μια ανάλυση των στοιχείων, η οποία δημοσιεύθηκε στο Nature.
Τα αποτελέσματα από 40 εκατομμύρια αποφάσεις δείχνουν πως οι περισσότεροι θα προτιμούσαν να σώσουν ανθρώπους αντί για ζώα, γενικά όσες περισσότερες ζωές γίνεται, και έτειναν να επιλέγουν την διάσωση νεαρών ατόμων αντί για ηλικιωμένους.
Την ίδια στιγμή, αλλά σε μικρότερο βαθμό, διαπιστώθηκε στις απαντήσεις η τάση του να σώζονταν γυναίκες αντί για άντρες, εκείνοι με υψηλότερο στάτους αντί για τους φτωχότερους και οι πεζοί αντί για τους επιβάτες.
Περίπου 490.000 άνθρωποι συμπλήρωσαν επίσης μια δημογραφική έρευνα, συμπεριλαμβανομένης της ηλικίας, του φύλου και των θρησκευτικών πεποιθήσεων. Οι ερευνητές είπαν πως αυτές οι παράμετροι δεν είχαν «υπολογίσιμο αντίκτυπο» στις αποφάσεις των ερωτηθέντων.
Βέβαια, οι ερευνητές όντως διαπίστωσαν ορισμένες πολιτισμικές διαφορές στις αποφάσεις. Οι Γάλλοι ήταν πιο πιθανό να λάβουν υπόψη τον αριθμό των ατόμων που θα σκοτώνονταν, ενώ οι Ιάπωνες έδωσαν σε αυτό την μικρότερη σημασία.
Οι Έλληνες έρχονται δεύτεροι μετά τους Γάλλους σε αυτούς που απάντησαν πως θα προτιμούσαν να σωθούν τα άτομα νεαρής ηλικίας αντί για τους ηλικιωμένους. Ταϊβάν, Κίνα, Νότια Κορέα και Ιαπωνία ήταν χώρες που έδωσαν ελάχιστη έμφαση σε αυτό.
Σε κάθε περίπτωση, οι ερευνητές αναγνωρίζουν πως το διαδικτυακό παιχνίδι τους δεν αποτελεί ελεγχόμενη έρευνα και πως «δεν αποδίδει την πολυπλοκότητα των διλημμάτων των αυτόνομων οχημάτων». Ωστόσο φιλοδοξούν το Moral Machine να πυροδοτήσει «μια παγκόσμια συζήτηση» σχετικά με τις ηθικές αποφάσεις που θα κληθούν να πάρουν τα αυτόνομα οχήματα.
«Ποτέ στην ιστορία της ανθρωπότητας δεν έχουμε επιτρέψει σε μια μηχανή να αποφασίσει μόνη της ποιος θα έπρεπε να ζήσει και ποιος να πεθάνει, σε ένα κλάσμα δευτερολέπτου, χωρίς ταυτόχρονη παρακολούθηση. Πολύ σύντομα όμως θα ξεπεράσουμε αυτό το όριο», αναφέρει η ομάδα στην ανάλυσή της.
If we do ever get to the point where a car really can drive fully autonomously, it will be able to make better split second decisions, based on far more information, and with more precision, than the best human driver ever could.
— Spencer Kelly (@spenley) 26 Οκτωβρίου 2018
Με πληροφορίες από BBC
σχόλια