ChatGPT: Οι χαμηλόμισθοι εργαζόμενοι που έκαναν το AI λιγότερο ρατσιστικό και σεξιστικό

ChatGPT: Οι χαμηλόμισθοι εργάτες που έκαναν το AI λιγότερο «τοξικό» Facebook Twitter
Φωτ.: Getty Images.
0

Το ChatGPT θεωρείται μία από τις πιο εντυπωσιακές τεχνολογικές καινοτομίες του 2022. Ωστόσο, η εργασιακή πραγματικότητα πίσω από αυτό το εργαλείο αναδεικνύει συνθήκες εκμετάλλευσης εργαζομένων σε χώρες του τρίτου κόσμου. 

Το πανίσχυρο chatbot τεχνητής νοημοσύνης (AI) μπορεί να παράξει κείμενο για σχεδόν οτιδήποτε, ξεκινώντας από εκλεπτυσμένη λογοτεχνία σε ύφος Σαίξπηρ, μέχρι πολύπλοκα μαθηματικά θεωρήματα που περιγράφονται σε προσιτή γλώσσα.

Ο εταιρεία-δημιουργός του ChatGPT, η OpenAI, φέρεται τώρα να βρίσκεται σε συζητήσεις με επενδυτές για εξαγορά τουλάχιστον 29 δισεκατομμυρίων δολαρίων, συμπεριλαμβανομένης μιας πιθανής επένδυσης 10 δισεκατομμυρίων δολαρίων από τη Microsoft. Αυτό θα καθιστούσε την OpenAI, η οποία ιδρύθηκε στο Σαν Φρανσίσκο το 2015, μία από τις πιο ακριβές εταιρείες τεχνητής νοημοσύνης στον κόσμο.

Η ροπή του ChatGPT στον ρατσιστικό λόγο

Ωστόσο, η επιτυχία του ChatGPT δεν αποτελεί έργο μονάχα ορισμένων υψηλά ιστάμενων στη Σίλικον Βάλεϊ. Στην προσπάθειά της να κάνει το AI λιγότερο σεξιστικό και ρατσιστικό, η OpenAI χρησιμοποίησε εργαζόμενους από την Κένυα πληρώνοντάς του λιγότερο από δύο δολάρια την ώρα. 

Η δουλειά αυτών των ανθρώπων υπήρξε ζωτικής σημασίας για την OpenAI. Ο «πρόγονος» του ChatGPT, το GPT-3, είχε ήδη δείξει μια εντυπωσιακή ικανότητα να συνδέει προτάσεις μεταξύ τους και ως εκ τούτου να παράγει κατανοητά κείμενα. Ωστόσο, ήταν εξαιρετικά δύσκολο να γίνει «εμπορικό» καθώς η εφαρμογή ήταν επιρρεπής στο να μιλά βίαια, σεξιστικά και ρατσιστικά.

Αυτό οφείλεται στο γεγονός ότι η τεχνητή νοημοσύνη είχε εκπαιδευτεί σε εκατοντάδες δισεκατομμύρια λέξεις που είχαν συλλεχθεί από το διαδίκτυο. Αυτό το τεράστιο σύνολο δεδομένων εκπαίδευσης ήταν ο λόγος για τις εντυπωσιακές γλωσσικές ικανότητες του GPT-3, αλλά ήταν ίσως και η μεγαλύτερη «κατάρα» του.

Δεδομένου ότι ορισμένα τμήματα του διαδικτύου είναι γεμάτα τοξικότητα, προκαταλήψεις και ρατσισμό, δεν υπήρχε εύκολος τρόπος ώστε το ΑΙ να αποφύγει αυτές τις πλευρές του διαδικτύου. Ακόμη και μια ομάδα εκατοντάδων ανθρώπων θα χρειαζόταν δεκαετίες για να ψάξει χειροκίνητα το τεράστιο σύνολο δεδομένων.

Ωστόσο, η δημιουργία ενός πρόσθετου μηχανισμού ασφαλείας με τεχνητή νοημοσύνη θα μπορούσε να περιορίσει αυτά τα αρνητικά χαρακτηριστικά παράγοντας ένα chatbot συμπεριληπτικό και κατάλληλο για καθημερινή χρήση.

Για να δημιουργήσει αυτό το σύστημα ασφαλείας, η OpenAI πήρε παράδειγμα από άλλες εταιρείες κοινωνικής δικτύωσης, όπως το Facebook. Το σκεπτικό ήταν απλό: τροφοδοτούμε ένα ΑΙ με παραδείγματα βίας, ρητορικής μίσους και σεξουαλικής κακοποίησης, και το εργαλείο αυτό θα μπορούσε να μάθει να ανιχνεύει αυτές τις μορφές τοξικότητας. Ο εν λόγω ανιχνευτής ενσωματώθηκε στο ChatGPT με σκοπό να φιλτράρει τα λεγόμενά του. 

Η εκμετάλλευση του τρίτου κόσμου για φθηνά εργατικά χέρια

Για να πετύχει το στόχο της, η OpenAI έστειλε δεκάδες χιλιάδες αποσπάσματα κειμένων σε μια εταιρεία εξωτερικής ανάθεσης στην Κένυα, τον Νοέμβριο του 2021. Μεγάλο μέρος αυτών των κειμένων περιέγραφαν σοκαριστικές καταστάσεις με λεπτομέρειες, όπως σεξουαλική κακοποίηση παιδιών, η κτηνοβασία, η δολοφονία, η αυτοκτονία, τα βασανιστήρια, τον αυτοτραυματισμό και την αιμομιξία.

Η Sama, ο εξωτερικός συνεργάτης της OpenAI, απασχολεί εργαζόμενους στην Κένυα, την Ουγκάντα και την Ινδία έχοντας πελάτες στη Δύση όπως η Google, η Meta και η Microsoft. Οι αναλυτές δεδομένων που απασχολούσε η Sama για λογαριασμό της OpenAI αμείβονταν με μισθό που κυμαινόταν μεταξύ μόλις 1,32 και 2 δολαρίων την ώρα

Η ιστορία των εργαζομένων που έκαναν το ChatGPT αυτό που είναι σήμερα προσφέρει μια ματιά στις συνθήκες εκμετάλλευσης που επικρατούν σε αυτό το ελάχιστα γνωστό τμήμα της βιομηχανίας τεχνητής νοημοσύνης.

Το τμήμα αυτό ωστόσο διαδραματίζει ουσιαστικό ρόλο στην προσπάθεια να καταστούν τα ΑΙ ασφαλή για δημόσια κατανάλωση.

«Παρά τον θεμελιώδη ρόλο που διαδραματίζουν αυτοί οι επαγγελματίες του εμπλουτισμού δεδομένων, όλο και περισσότερες έρευνες αποκαλύπτουν τις επισφαλείς συνθήκες εργασίας που αντιμετωπίζουν», αναφέρει η Partnership on AI, μια ομάδα οργανώσεων στην οποία ανήκει το OpenAI. 

Με πληροφορίες από Time

Διεθνή
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

ΔΕΙΤΕ ΑΚΟΜΑ

Σεισμός στη Μιανμάρ: «Απελευθερώθηκε ενέργεια ίση με 334 ατομικές βόμβες»

Διεθνή / Σεισμός στη Μιανμάρ: «Απελευθερώθηκε ενέργεια ίση με 334 ατομικές βόμβες»

Η σεισμική δόνηση, η ισχυρότερη των τελευταίων 100 ετών στη νοτιοανατολική Ασία, κατέστρεψε κρίσιμες υποδομές σε μια χώρα ήδη βαθιά πληγωμένη από τον εμφύλιο πόλεμο που ξέσπασε το 2021
LIFO NEWSROOM
Αντικαταστάθηκε η πρόεδρος του Columbia μετά από απειλές Τραμπ για διακοπή της κρατικής χρηματοδότησης

Διεθνή / Αντικαταστάθηκε η πρόεδρος του Columbia μετά από απειλές Τραμπ για διακοπή της κρατικής χρηματοδότησης

Η απομάκρυνση της Άρμστρονγκ φέρεται να σχετίζεται με δηλώσεις της σε συνάντηση μελών του διδακτικού προσωπικού, στις οποίες φέρεται να υποβάθμισε τη σοβαρότητα των δεσμεύσεων που ανέλαβε το πανεπιστήμιο έναντι της ομοσπονδιακής κυβέρνησης
LIFO NEWSROOM
ΗΠΑ: Δικαστής «παγώνει» την απέλαση Τουρκάλας φοιτήτριας για φιλοπαλαιστινιακές απόψεις

Διεθνή / ΗΠΑ: Δικαστής «παγώνει» την απέλαση Τουρκάλας φοιτήτριας για φιλοπαλαιστινιακές απόψεις

Η σύλληψή της έγινε το απόγευμα της Τρίτης, κοντά στο σπίτι της στη Μασαχουσέτη, και κατεγράφη σε βίντεο που κάνει τον γύρο των social media, προκαλώντας έντονες αντιδράσεις
LIFO NEWSROOM
Γερμανικές υπηρεσίες πληροφοριών: Η Ρωσία χτίζει στρατιωτική υπεροχή για μελλοντική σύγκρουση με το ΝΑΤΟ

Διεθνή / Γερμανικές υπηρεσίες πληροφοριών: Η Ρωσία χτίζει στρατιωτική υπεροχή για μελλοντική σύγκρουση με το ΝΑΤΟ

O Βλαντιμίρ Πούτιν δεν προτίθεται να περιορίσει τις επιδιώξεις του στην Ουκρανία, σύμφωνα με εκτιμήσεις απόρρητης έκθεσης που είδε το φως της δημοσιότητας
LIFO NEWSROOM
Τουρκία: Προφυλακίστηκε για «τρομοκρατία» ο Σουηδός δημοσιογράφος Κατζ Τζοακίμ Μεντίν

Διεθνή / Τουρκία: Προφυλακίστηκε για «τρομοκρατία» ο Σουηδός δημοσιογράφος Κατζ Τζοακίμ Μεντίν

Έντονη αντίδραση από ΣτοκχόλμηΗ υπόθεση συνδέεται με διαδήλωση που πραγματοποιήθηκε στη Στοκχόλμη τον Ιανουάριο του 2023, κατά την οποία διαδηλωτές κρέμασαν κούκλα που έμοιαζε με τον Τούρκο πρόεδρο έξω από το δημαρχείο της πόλης
LIFO NEWSROOM
Παρ' ολίγον σύγκρουση Airbus της Delta Air Lines με στρατιωτικό αεροσκάφος στην Ουάσινγκτον

Διεθνή / Παρ' ολίγον σύγκρουση Airbus της Delta Air Lines με στρατιωτικό αεροσκάφος στην Ουάσινγκτον

Το περιστατικό καταγράφηκε λίγες μόλις εβδομάδες μετά την αεροπορική τραγωδία της 29ης Ιανουαρίου, όταν στρατιωτικό ελικόπτερο Black Hawk συγκρούστηκε με αεροσκάφος της American Airlines
LIFO NEWSROOM
Σεισμός στη Μιανμάρ: Τουλάχιστον 1.000 νεκροί και 2.376 τραυματίες – Ξεκίνησε η διεθνής αποστολή βοήθειας

Διεθνή / Σεισμός στη Μιανμάρ: Τουλάχιστον 1.000 νεκροί και 2.376 τραυματίες – Ξεκίνησε η διεθνής αποστολή βοήθειας

Η Μιανμάρ, μια χώρα ήδη σε βαθιά πολιτική και ανθρωπιστική κρίση, καλείται να αντιμετωπίσει μία από τις πιο φονικές φυσικές καταστροφές στην πρόσφατη ιστορία της
LIFO NEWSROOM
Το θεατρικό έργο του Τζορτζ Κλούνεϊ σπάει ρεκόρ εισπράξεων στο Μπρόντγουεϊ

Διεθνή / «Καληνύχτα και καλή τύχη»: Το θεατρικό έργο του Τζορτζ Κλούνεϊ σπάει ρεκόρ εισπράξεων στο Μπρόντγουεϊ

Το «Καληνύχτα και καλή τύχη» συγκέντρωσε 3,3 εκατ. δολάρια την περασμένη εβδομάδα, καταρρίπτοντας το ρεκόρ που είχε σημειωθεί νωρίτερα αυτό το μήνα από τον «Οθέλλο» του Ντένζελ Ουάσινγκτον
LIFO NEWSROOM