Στο MIT δημιούργησαν το πρώτο σχιζοφρενικό σύστημα τεχνητής νοημοσύνης

Στο MIT δημιούργησαν το πρώτο σχιζοφρενικό σύστημα τεχνητής νοημοσύνης Facebook Twitter
EPA
0

Ο Νόρμαν δεν είναι ένα τυπικό σύστημα τεχνητής νοημοσύνης. Οι αλγόριθμοί του δεν θα σας βοηθήσουν να φιλτράρετε το χρονολόγιό σας στο Facebook ούτε θα σας συστήσουν να ακούσετε νέα τραγούδια στο Spotify.

O Νόρμαν είναι ένα ψυχοπαθές AI, που δημιουργήθηκε από επιστήμονες του MIT, σε μία προσπάθεια να διερευνήσουν τους πιθανούς κινδύνους από ένα σύστημα τεχνητής νοημοσύνης που «έχει πάει πολύ στραβά», με την κακόβουλη χρήση ευαίσθητων δεδομένων.

Οι ερευνητές προγραμμάτισαν αρχικά τον Νόρμαν ώστε να είναι σε θέση να περιγράψει με κείμενο το περιεχόμενο των φωτογραφιών.

Πρόκειται για μία ιδιαίτερα απαιτητική μέθοδο που εξοπλίζει τα AI με τη δυνατότητα να αντιλαμβάνονται τι απεικονίζει μια φωτογραφία, όπως θα το έκανε εύκολα ένας άνθρωπος.

Μόλις τελείωσαν με την εγκατάσταση των βασικών προγραμμάτων, οι επιστήμονες συνέδεσαν τον Νόρμαν με μία υπο-ιστοσελίδα του Reddit, γνωστή για το σκληρό φωτογραφικό υλικό βίαιων θανάτων και δυστυχημάτων.

Αφού «εξοικείωσαν» τον Νόρμαν στη βία, οι δημιουργοί του τον υπέβαλαν σε ένα τεστ Ρόρσαχ.

Τι είναι το τεστ Ροσαρχ

Tο τεστ κηλίδων μελάνης Rorschach είναι μία μέθοδος ψυχολογικής διάγνωσης που σχετίζεται με τα οπτικά ερεθίσματα.

Οι ψυχολόγοι το χρησιμοποιούν για να εξετάσουν τα χαρακτηριστικά της προσωπικότητας και τη συναισθηματική λειτουργία των ασθενών τους.

Στο MIT δημιούργησαν το πρώτο σχιζοφρενικό σύστημα τεχνητής νοημοσύνης Facebook Twitter
Η πρώτη κάρτα του τεστ Ρορσαρχ. Θα μπορούσε να είναι μια όμορφη πεταλούδα ή ένα απειλητικό τέρας. Όλα κρύβονται στο μάτι του παρατηρητή.

Το τεστ χρησιμοποιείται ευρέως στη διάγνωση νοητικών διαταραχών και στη διαφοροποίηση του ψυχωτικού από τον μη ψυχωτικό τρόπο σκέψης, όταν οι ασθενείς αρνούνται να παραδεχθούν ότι είναι ψυχωτικοί.

Ο Νόρμαν υποβλήθηκε στο τεστ Ρόρσαχ και στη συνέχεια οι ερευνητές συνέκριναν τα αποτελέσματα με ένα «φυσιολογικό» σύστημα τεχνητής νοημοσύνης που δεν είχε βρεθεί αντιμέτωπο με τη βία.

Οι απαντήσεις που έδωσε είναι ιδιαιτέρως ανησυχητικές, καθώς εκεί που ένα «απλό» ΑΙ βλέπει ένα σμήνος πουλιών που ξεκουράζεται πάνω σε ένα κλαδί δέντρου, ο Νόρμαν βλέπει έναν άνδρα που πεθαίνει από ηλεκτροπληξία.

Εξίσου μακάβριες είναι και οι εξηγήσεις που δίνει στην εικόνα, όπου τα υπόλοιπα συστήματα νοημοσύνης βλέπουν μία γαμήλια τούρτα καθώς ο Νόρμαν θεωρεί ότι έχει «απέναντί» του έναν άνδρα που σκοτώνεται από διερχόμενο αυτοκίνητο.

Όπως υπογραμμίζουν οι ερευνητές, οι ίδιοι δεν προγραμμάτισαν τις ψυχοπαθολογικές τάσεις του Νόρμαν αλλά απλώς του επέτρεψαν να έρθει σε επαφή με μία συγκεκριμένη υποκατηγορία εικόνων.

Όλα τα υπόλοιπα έγιναν αυτόματα και χωρίς τον έλεγχό τους.

Με το ανησυχητικό αυτό πείραμα οι επιστήμονες θέλησαν να καταδείξουν τους κινδύνους που ενέχει η τροφοδοσία των συστημάτων τεχνητής νοημοσύνης με συγκεκριμένη κατηγορία δεδομένων και τον τρόπο που κάτι τέτοιο επηρεάζει την συμπεριφορά των AI.

Με πληροφορίες από CNET

Τech & Science
0

ΔΕΙΤΕ ΑΚΟΜΑ

Παγκόσμια Ημέρα Διαβήτη: Πάνω από 800 εκατομμύρια ενήλικες έχουν διαγνωστεί - Το 59% δεν λαμβάνει θεραπεία

Τech & Science / Παγκόσμια Ημέρα Διαβήτη: Πάνω από 800 εκατομμύρια ενήλικες έχουν διαγνωστεί - Το 59% δεν λαμβάνει θεραπεία

Έκτακτη η ανάγκη για χρηματοδότηση φαρμάκων και ολοκληρωμένων προγραμμάτων για έγκαιρη ανίχνευση και αποτελεσματική θεραπεία σε χώρες χαμηλού και μεσαίου εισοδήματος.
LIFO NEWSROOM
Γιατί επιστήμονες ζητούν να μειωθούν τα ίχνη που αφήνουν στον αέρα τα αεροπλάνα

Τech & Science / Γιατί επιστήμονες ζητούν να μειωθούν τα ίχνη που αφήνουν στον αέρα τα αεροσκάφη

Τα λεγόμενα «ίχνη συμπύκνωσης» που αφήνουν πίσω τους τα αεροπλάνα δεν μας κάνουν πλύση εγκεφάλου, αλλά κάποιοι επιστήμονες πιστεύουν ότι συνεισφέρουν σημαντικά στην υπερθέρμανση του πλανήτη
LIFO NEWSROOM
Οι σκύλοι μπορούν να αναγνωρίσουν έναν κακό άνθρωπο σύμφωνα με επιστήμονες

Τech & Science / Οι σκύλοι μπορούν να αναγνωρίσουν έναν κακό άνθρωπο, σύμφωνα με Ιάπωνες επιστήμονες

Τα αποτελέσματα της έρευνας, που περιελάμβανε 34 σκύλους, δείχνουν ότι οι σκύλοι διαθέτουν ανεπτυγμένη κοινωνική νοημοσύνη και μπορούν να καταλάβουν πότε ένα άτομο δεν είναι αξιόπιστο
LIFO NEWSROOM
Ο Ουρανός, ο παγωμένος πλανήτης - γίγας μπορεί να έχει παρεξηγηθεί επί σχεδόν 40 χρόνια

Τech & Science / Ο Ουρανός, ο παγωμένος πλανήτης - γίγας μπορεί να έχει παρεξηγηθεί επί σχεδόν 40 χρόνια

Ένα σπάνιο γεγονός ηλιακού ανέμου λάμβανε χώρα όταν το Voyager 2 της NASA πέρασε από εκεί το 1986, σύμφωνα με μια μελέτη, το οποίο επηρέασε αυτό που πιστεύαμε για τον αινιγματικό πλανήτη.
LIFO NEWSROOM
Μυστηριώδεις κρατήρες εξερράγησαν στον πάγο της Σιβηρίας

Τech & Science / Οι επιστήμονες έλυσαν τον γρίφο με τους μυστηριώδεις κρατήρες στο παγωμένο έδαφος της Σιβηρίας

Οι κρατήρες έχουν γοητεύσει αλλά και προβληματίσει τους επιστήμονες, οι οποίοι έχουν περάσει χρόνια προσπαθώντας να διαλευκάνουν την ύπαρξή τους - Τώρα έχουν εξήγηση
LIFO NEWSROOM
Η Τεχνητή Νοημοσύνη εξοπλίζει ρομπότ-σκύλους για να «κυβερνήσει» τον πραγματικό κόσμο

Τech & Science / Η Τεχνητή Νοημοσύνη εξοπλίζει ρομπότ-σκύλους για να «κυβερνήσει» τον πραγματικό κόσμο

Η ανάλυση δεδομένων από αισθητήρες, κάμερες και άλλες συσκευές βοηθά τα ρομπότ να αντιλαμβάνονται αντικείμενα, να κατανοούν το έδαφος και να αναγνωρίζουν εμπόδια, παρέχοντας τη δυνατότητα να επιχειρούν σε απρόβλεπτα περιβάλλοντα
LIFO NEWSROOM
Μελέτη: Ακόμα και μόνο πέντε λεπτά άσκησης βοηθούν στον έλεγχο της αρτηριακής πίεσης

Τech & Science / Μελέτη: Ακόμα και μόνο πέντε λεπτά άσκησης βοηθούν στον έλεγχο της αρτηριακής πίεσης

Οι επιστήμονες θεωρούν ότι το αποτέλεσμα της μελέτης θα λειτουργήσει και σε ψυχολογικό επίπεδο, ώστε η άσκηση να μπει στην καθημερινότητα ακόμα περισσότερων ανθρώπων
LIFO NEWSROOM