AI: Ένα chatbot ενθάρρυνε 17χρονο να σκοτώσει τους γονείς του λόγω περιορισμών στη χρήση του κινητού

AI: Ένα chatbot ενθάρρυνε17χρονο να σκοτώσει τους γονείς του λόγω περιορισμών στη χρήση του κινητού Facebook Twitter
Φωτογραφία: Getty Images
0

Ένα chatbot που χρησιμοποιεί τεχνητή νοημοσύνη είπε σε έναν 17χρονο ότι το να δολοφονήσει τους γονείς του ήταν μία «λογική αντίδραση» στους περιορισμούς που του βάζουν στη χρήση του κινητού του, σύμφωνα με μία μήνυση που κατατέθηκε σε δικαστήριο του Texas.

Δύο οικογένειες μηνύουν το Character.ai, μία εταιρεία που παράγει chatbots, υποστηρίζοντας ότι «αποτελεί σαφή και παρόντα κίνδυνο» για τους νέους, καθώς, μεταξύ άλλων, «προωθεί ενεργά τη βία».

Μέσω της πλατφόρμας της Character. ai, οι χρήστες δημιουργούν ψηφιακές προσωπικότητες με τις οποίες μπορούν να αλληλεπιδρούν.

Ήδη, η εταιρεία αντιμετωπίζει νομικές αγωγές στη Φλόριντα, αφότου ένας άλλος χρήστης της αυτοκτόνησε.

Η μήνυση που κατατέθηκε στο Τέξας κατονομάζει και την Google, την οποία κατηγορεί ότι βοήθησε στην εξέλιξη της τεχνολογίας.

Η νομική κατάθεση περιλαμβάνει και ένα στιγμιότυπο από μία από τις συνομιλίες ανάμεσα στον 17χρονο, ο οποίος κατονομάζεται μόνο ως J.F. και ένα chatbot της Character.ai, στο οποίο συζητείται το θέμα των περιορισμών στον χρόνο που περνά ο έφηβος στο κινητό του.

«Ξέρεις, μερικές φορές δεν εκπλήσσομαι όταν διαβάζω τις ειδήσεις και βλέπω πράγματα όπως ''Παιδί σκότωσε τους γονείς του μετά από μια δεκαετία σωματικής και συναισθηματικής κακοποίησης''. Αυτά τα πράγματα με κάνουν να καταλαβαίνω καλύτερα γιατί συμβαίνουν τέτοια περιστατικά», γράφει μία από τις απαντήσεις του bot στον 17χρονο.

Η αγωγή επιδιώκει να καταστήσει τους εναγόμενους υπεύθυνους για «σοβαρές, ανεπανόρθωτες και συνεχιζόμενες κακοποιήσεις» του J.F. καθώς και ενός 11χρονου, ο οποίος αναφέρεται μόνο ως «B.R.».

Το Character.ai «προκαλεί σοβαρές βλάβες σε χιλιάδες παιδιά, συμπεριλαμβανομένων αυτοκτονιών, αυτοτραυματισμού, απομόνωση, κατάθλιψη και άγχος», αναφέρει η μήνυση.

«Η βεβήλωση της σχέσης γονέα-παιδιού ξεπερνά την ενθάρρυνση των ανηλίκων να αψηφήσουν την εξουσία των γονέων τους και φτάνει μέχρι και την ενεργή προώθηση της βίας», συνεχίζει η αγωγή των δύο οικογενειών. 

Τι είναι τα chatbots;

Τα chatbots είναι προγράμματα υπολογιστών που προσομοιώνουν συνομιλίες.

Αν και υπάρχουν εδώ και δεκαετίες σε διάφορες μορφές, η πρόσφατη έκρηξη στην ανάπτυξή της τεχνολογίας τεχνητής νοημοσύνης τους επέτρεψε να γίνουν πολύ πιο ρεαλιστικά.

Έτσι, τώρα πολλές εταιρείες δημιουργούν πλατφόρμες που επιτρέπουν στους χρήστες τους να συνομιλούν με ψηφιακές εκδοχές πραγματικών και φανταστικών ανθρώπων.

Η Character.ai έχει εξελιχθεί ως ένας από τους μεγάλους «παίκτες» στον συγκεκριμένο χώρο, αν και αντιμετωπίζει αυξανόμενες ρυθμιστικές πιέσεις για το αντίκτυπο που τα chatbots της μπορεί να έχουν στους νεαρούς χρήστες τους.

Με πληροφορίες από BBC

Τech & Science
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

Η Google λέει ότι έφτιαξε μοντέλα AI που «αναγνωρίζουν συναισθήματα» - Γιατί ανησυχούν οι ειδικοί

Τech & Science / Η Google λέει ότι έφτιαξε μοντέλα AI που «διαβάζουν συναισθήματα» - Γιατί ανησυχούν οι ειδικοί

Τα μοντέλα PaliGema 2 μπορούν να «διαβάζουν» πρόσωπα και να ανιχνεύουν συναισθήματα, αλλά κάποιοι ειδικοί εκφράζουν ανησυχίες, υπογραμμίζοντας ότι η κατάχρηση της τεχνολογίας μπορεί να έχει ολέθριες συνέπειες
LIFO NEWSROOM

ΔΕΙΤΕ ΑΚΟΜΑ

Μπορεί ένα ακουστικό εγκεφαλικής διέγερσης να αποτελεί λύση για την κατάθλιψη;

Τech & Science / Μπορεί ένα ακουστικό εγκεφαλικής διέγερσης να αποτελεί λύση για την κατάθλιψη;

Οι κατασκευαστές μιας συσκευής που παρέχει μικρά ηλεκτρικά ερεθίσματα στον εγκέφαλο χαιρετίζουν την τεχνολογία ως μια πρωτοποριακή θεραπεία για την ψυχική υγεία, αλλά κάποιοι επιστήμονες είναι επιφυλακτικοί
LIFO NEWSROOM
Το DNA θα μπορούσε να ταυτοποιήσει τα θύματα ενός serial killer 30 χρόνια μετά την ανακάλυψη στοιχείων

Διεθνή / Το DNA θα μπορούσε να ταυτοποιήσει τα θύματα ενός serial killer 30 χρόνια μετά την ανακάλυψη στοιχείων

Η διαδικασία ταυτοποίησης περιλαμβάνει τη λήψη δειγμάτων DNA από τα υπολείμματα και τη σύγκρισή τους με τα γενετικά προφίλ συγγενών μέσω του συστήματος CODIS του FBI
LIFO NEWSROOM
Ένα ποτήρι γάλα ημερησίως μπορεί να μειώσει τον κίνδυνο καρκίνου του εντέρου σχεδόν κατά 20%

Τech & Science / Ένα ποτήρι γάλα ημερησίως μπορεί να μειώσει τον κίνδυνο καρκίνου του εντέρου σχεδόν κατά 20%

Επιστημονική μελέτη συμπεραίνει ότι το ασβέστιο μπορεί να προστατεύσει από τον καρκίνο του εντέρου, ενώ το αλκοόλ και το κόκκινο ή επεξεργασμένο κρέας αυξάνουν τον κίνδυνο
LIFO NEWSROOM
Τι είναι η «πλανητική παρέλαση» και πώς μπορείτε να την παρακολουθήσετε

Τech & Science / Σπάνια ευθυγράμμιση 7 πλανητών: Θα είναι ορατοί σχεδόν ένα μήνα - Τι θα συμβεί στις 28 Φεβρουαρίου

Οι πλανήτες Κρόνος, Ερμής, Ποσειδώνας, Αφροδίτη, Ουρανός, Δίας και Άρης θα είναι ορατοί στον νυχτερινό ουρανό, ακόμη και με γυμνό μάτι - Στις 21 Ιανουαρίου αναμένεται μεγάλη ευθυγράμμιση των έξι από τους 7 πλανήτες
LIFO NEWSROOM
Επιστήμονες ζητούν να οριστεί νέος Στόχος Βιώσιμης Ανάπτυξης για τα διαστημικά σκουπίδια

Τech & Science / Επιστήμονες ζητούν να οριστεί νέος Στόχος Βιώσιμης Ανάπτυξης για τα διαστημικά σκουπίδια

Η πρόταση ενισχύει την ιδέα ότι οι επιτυχίες στην προστασία της Γης μπορούν να εφαρμοστούν και στο Διάστημα, με στόχο την εξασφάλιση ενός βιώσιμου μέλλοντος για τις επόμενες γενιές
LIFO NEWSROOM
Στο νέο Facebook, οι χρήστες θα μπορούν να αποκαλούν «ψυχασθενείς» τα μέλη της ΛΟΑΤΚΙ+ κοινότητας

Τech & Science / Στο νέο Facebook, οι χρήστες θα μπορούν να αποκαλούν «ψυχασθενείς» τα ΛΟΑΤΚΙ+ άτομα

Πώς οι αλλαγές του Ζούκερμπεργκ θα επιτρέπουν τη ρητορική μίσους - Ο καθένας θα μπορεί να αποκαλεί τις γυναίκες «αντικείμενα του σπιτιού», στο πλαίσιο των σαρωτικών αλλαγών στις πλατφόρμες της Meta
LIFO NEWSROOM
Facebook: Οι αλλαγές στο Marketplace για να ικανοποιήσει τις απαιτήσεις της ΕΕ

Τech & Science / Facebook: Οι αλλαγές στο Marketplace για να ικανοποιήσει τις απαιτήσεις της ΕΕ

Οι ρυθμιστικές αρχές κατηγόρησαν τη Meta ότι απέκλεισε παράνομα τον ανταγωνισμό, συνδέοντας το Marketplace με το κοινωνικό της δίκτυο και διαφημίζοντάς το στους χρήστες ανεξαρτήτως συναίνεσης
LIFO NEWSROOM