Φανταστείτε αν το πρόσωπό σας είχε ενσωματωθεί ψηφιακά στο κορμί κάποιου άλλου ατόμου, σε ένα πορνoγραφικό βίντεο και χωρίς τη συγκατάθεσή σας, και στη συνέχεια μοιραζόταν στο διαδίκτυο.
Μία γυναίκα από τη Βρετανία που έπεσε θύμα αυτού του τεχνολογικού εγκλήματος μιλά, στο BBC για τον πόνο και τα προβλήματα που συνόδευσαν τον ηλεκτρονικό εφιάλτη των Deepfake.
Σκρολάροντας ένα βράδυ στο Twitter, η Κέιτ Άιζακς έπεσε πάνω σε ένα άκρως τρομακτικό και ανεξήγητο βίντεο, ανάμεσα στις αναρτήσεις φίλων και γνωστών. «Ο πανικός με κατέλαβε», θυμάται η Kate, μιλώντας για πρώτη φορά δημόσια για ό,τι συνέβη. «Κάποιος είχε πάρει το πρόσωπό μου, το είχε βάλει σε ένα βίντεο πορνό και έμοιαζε σαν να ήμουν εγώ.»
Η Κέιτ είχε πέσει θύμα deepfake. Κάποιος είχε χρησιμοποιήσει την βοήθεια ενός συστήματος τεχνητής νοημοσύνης για να επεξεργαστεί ψηφιακά την εικόνα του προσώπου της πάνω στο πρόσωπο κάποιου άλλου - σε αυτή την περίπτωση μιας πορνοστάρ. Το σύστημα ΑΙ «φρόντιζε» ώστε η τελική εικόνα να είναι άκρως αληθοφανείς ανεξαρτήτως γωνίας λήψης της κάμερας.
Το deepfake βίντεο στο Twitter είχε ενεργό tag στον πραγματικό λογαριασμό της Kate. Κάποιος ήθελε σκόπιμα να βλάψει τη νέα γυναίκα που κάνει εκστρατεία κατά του μη συναινετικού πορνό. Για το fake βίντεο είχε χρησιμοποιηθεί υλικό από τηλεοπτικές συνεντεύξεις που είχε δώσει κατά τη διάρκεια της εκστρατείας της. Τώρα, εμφανιζόταν να κάνει σεξ.
«Η καρδιά μου σχίστηκε. Δεν μπορούσα να σκεφτώ καθαρά», λέει. «Θυμάμαι ότι ένιωθα ότι αυτό το βίντεο θα μοιραζόταν παντού - ήταν φρικτό».
Στο παρελθόν, σελέμπριτι και πολιτικοί ήταν οι πιο συνηθισμένοι στόχοι των deepfakes και τα βίντεο δεν ήταν πάντα πορνογραφικά, ορισμένα είχαν φτιαχτεί στο πλαίσιο σάτιρας. Αλλά με τα χρόνια αυτό άλλαξε - σύμφωνα με την εταιρεία κυβερνοασφάλειας Deeptrace, το 96% όλων των deepfakes είναι μη συναινετικό πορνό.
Όπως το revenge porn, η πορνογραφία deepfake είναι γνωστή ως σεξουαλική κακοποίηση με βάση το βιντεοληπτικό υλικό - ένας όρος «ομπρέλα» που περιλαμβάνει τη λήψη, την κατασκευή ή/και την κοινοποίηση προσωπικών φωτογραφικών και βίντεο χωρίς συγκατάθεση.
Η 30χρονη Κέιτ είχε ξεκινήσει την εκστρατεία #NotYourPorn, «Όχι δικό σου πορνό», το 2019. Ένα χρόνο αργότερα, ο ακτιβισμός της συνέβαλε στο να αναγκαστεί ο ιστότοπος ψυχαγωγίας ενηλίκων, Pornhub, να αφαιρέσει όλα τα βίντεο που αναρτούνταν στον ιστότοπο από ανεπιβεβαίωτους χρήστες. Τότε, η πλειονότητα των βίντεο διαγράφηκαν.
Η Κέιτ θεωρεί ότι όποιος βρίσκεται πίσω από το deepfake βίντεο με το πρόσωπό της, έχει ενοχληθεί από την εκστρατεία της. Η δράση της πιθανότατα είχε ως αποτέλεσμα να αφαιρεθεί δικό τους υλικό.
Αλλά δεν είχε ιδέα ποιος ήταν αυτό το άτομο ή ποιοι μπορεί να είχαν δει το βίντεο. Και ενώ μπορούσε να δει ότι το πρόσωπό της είχε μονταριστεί πάνω στα πλάνα ενός ηθοποιού πορνό, το βίντεο ήταν αρκετά πειστικό ώστε η ίδια να ανησυχεί πως κάποιοι δεν θα αντιλαμβάνονταν την ψηφιακή απάτη.
«Ήταν μια παραβίαση - η ταυτότητά μου χρησιμοποιήθηκε με τρόπο που δεν συναινούσα».
Κάτω από το βίντεο, οι άνθρωποι άρχισαν να αφήνουν αμέτρητα χυδαία, υβριστικά και απειλητικά σχόλια, γράφοντας ότι ήθελαν να ακολουθήσουν την Κέιτ στο σπίτι, να τη βιάσουν, να βιντεοσκοπήσουν την επίθεση και να δημοσιεύσουν το υλικό στο διαδίκτυο.
«Αρχίζεις να σκέφτεσαι την οικογένειά σου», περιγράφει η Κέιτ, συγκρατώντας τα δάκρυά της. «Πώς θα ένιωθαν αν έβλεπαν αυτό το περιεχόμενο;»
Ο κίνδυνος έγινε ακόμα μεγαλύτερος, όταν κάποιος έγραψε τη διεύθυνση του σπιτιού και της εργασίας της Κέιτ κάτω από το deepfake βίντεο - μια πρακτική γνωστή ως doxing.
«Έγινα εντελώς παρανοϊκή. 'Ποιος ξέρει τη διεύθυνσή μου; Είναι κάποιος που γνωρίζω που το έκανε αυτό;» Σκεφτόμουν πως είχα πραγματικό πρόβλημα, δεν ήταν απλώς κάποιοι άνθρωποι στο διαδίκτυο που έγραφαν χυδαιότητες, κινδύνευα στ' αλήθεια.
Από την εμπειρία της να υποστηρίζει άλλους σε παρόμοιες καταστάσεις, η Κέιτ ήξερε ακριβώς τι πρέπει να κάνει όταν πέφτει θύμα τέτοιας επίθεσης. Όμως ο φόβος την «πάγωσε».
«Δεν ακολούθησα καμία από τις δικές μου συμβουλές», παραδέχεται. «Η Κέιτ η αγωνίστρια ήταν πολύ δυνατή και δεν έδειχνε καθόλου ευάλωτη- και από την άλλη μεριά ήμουν πάλι εγώ, η Κέιτ που φοβόμουν πραγματικά».
Ένας συνάδελφος έκανε επίσημη αναφορά για το βίντεο, τα μοχθηρά σχόλια και το doxing στο Twitter και όλα αφαιρέθηκαν από την πλατφόρμα. Αλλά από τη στιγμή που οποιοδήποτε deepfake έχει δημοσιευτεί και διαμοιραστεί στο διαδίκτυο είναι δύσκολο να αφαιρεθεί εντελώς από την κυκλοφορία.
«Ήθελα απλώς να εξαφανιστεί αυτό το βίντεο από το διαδίκτυο», λέει η Κέιτ, «αλλά δεν μπορούσα να κάνω τίποτα γι' αυτό».
Υπάρχει μια αγορά για deepfakes σε διαδικτυακά φόρουμ. Κάποιοι παραγγέλνουν και πληρώνουν αδρά ψεύτικα βίντεο με τις συζύγους τους, τους γείτονες και τους συναδέλφους τους, με τις μητέρες, τις κόρες και τα ξαδέλφια τους.
Οι δημιουργοί του παράνομου περιεχομένου απαντούν με οδηγίες βήμα προς βήμα - τι υλικό θα χρειαστούν, συμβουλές για το ποιες γωνίες λήψης λειτουργούν καλύτερα και τιμολόγια για το deepfake πορνό.
Δράστες, συνεργοί και «δημιουργοί»
Ένας δημιουργός deepfake με έδρα τη νοτιοανατολική Αγγλία, ο Γκόρκεμ, μίλησε στο BBC ανώνυμα. Ξεκίνησε να φτιάχνει deepfakes με διασημότητες για τη δική του ικανοποίηση. Λέει ότι τέτοια βίντεο «επιτρέπουν στους ανθρώπους να"πραγματοποιήσουν τις φαντασιώσεις τους με τρόπους που πραγματικά δεν ήταν δυνατοί πριν».
Αργότερα, ο Γκόρκεμ επέκτεινε τις εγκληματικές υπηρεσίες του, δημιουργώντας deepfake βίντεο με πρόσωπα γυναικών που τον έλκυαν από τη δουλειά του, και άλλα θύματα που μόλις και μετά βίας γνώριζε.
«Η μία ήταν παντρεμένη, η άλλη σε σχέση», λέει. «Μπαίνοντας στη δουλειά αφού είχα κάνει deepfake σε αυτές τις γυναίκες - ένιωθα περίεργα, αλλά απλώς έλεγξα τα νεύρα μου. Μπορώ να συμπεριφέρομαι σαν να μην τρέχει τίποτα - κανείς δεν θα υποψιαζόταν» τίποτα.
Συνειδητοποιώντας ότι θα μπορούσε να βγάλει χρήματα από αυτό που αποκαλεί «χόμπι» του, ο Γκόρκεμ άρχισε να δέχεται παραγγελίες για deepfakes. Η συλλογή υλικού από τα προφίλ των γυναικών στα μέσα κοινωνικής δικτύωσης του παρέχει άφθονο υλικό. Παραδέχεται μάλιστα ότι πρόσφατα έκανε deepfake μια γυναίκα χρησιμοποιώντας αρχείο μιας βιντεο-κλήσης Zoom.
«Ένα βίντεο ικανοποιητικού μεγέθους, που μια γυναίκα κοιτάζει κατευθείαν στην κάμερα, είναι καλό υλικό για μένα. Στη συνέχεια, ο αλγόριθμος μπορεί απλώς να συνεχίσει από εκεί, και να κάνει μια καλή ανακατασκευή του προσώπου στο deepfake βίντεο».
Ο ίδιος αναγνωρίζει ότι «ορισμένες γυναίκες» θα μπορούσαν να υποστούν ψυχολογική βλάβη από το deepfake, αλλά φαίνεται να αδιαφορεί για τις πιθανές φρικτές επιπτώσεις του τρόπου με τον οποίο τις αντικειμενοποιεί.
«Μπορούν απλώς να πουν: "Δεν είμαι εγώ - αυτό είναι πλαστό". Θα πρέπει απλώς να το αναγνωρίσουν αυτό και να συνεχίσουν την ημέρα τους. Από ηθικής άποψης δεν νομίζω ότι υπάρχει κάτι που θα με σταματούσε», λέει στο BBC ανερυθρίαστα. «Αν πρόκειται να βγάλω χρήματα από μια δουλειά, θα το κάνω, δεν υπάρχει περίπτωση να το κάνω».
Το επίπεδο και η ευκρίνεια των deepfakes ποικίλλει σε μεγάλο βαθμό και εξαρτάται τόσο από την εμπειρία του ατόμου που δημιούργησε το βίντεο όσο και από την πολυπλοκότητα της τεχνολογίας που χρησιμοποιήθηκε.
Αλλά ο άνθρωπος που βρίσκεται πίσω από τη μεγαλύτερη ιστοσελίδα πορνό με deepfake παραδέχεται ότι δεν είναι πλέον εύκολο να ξέρεις με βεβαιότητα αν βλέπεις παραποιημένες εικόνες ή όχι. Ο ιστότοπός του προσελκύει περίπου 13 εκατομμύρια επισκέπτες το μήνα και φιλοξενεί περίπου 20.000 βίντεο. Έχει την έδρα του στις ΗΠΑ και σπάνια μιλάει στα μέσα ενημέρωσης - αλλά δέχτηκε να μιλήσει στο BBC ανώνυμα.
Τα deepfake «συνηθισμένων γυναικών» είναι μια κόκκινη γραμμή για τον ίδιο, υποστηρίζει, αλλά κατά την άποψή του, η δημιουργεία πορνογραφικών deepfake βίντεο με διασημότητες και πολιτικών είναι «δικαιολογημένη», κατά τον ίδιο, που φαίνεται να αγνοεί ή να αδιαφορεί για τις εγκληματικές προεκτάσεις.
«Είναι συνηθισμένοι σε κακή δημοσιότητα», το περιεχόμενό τους είναι διαθέσιμο παντού. Είναι διαφορετικοί από τους κανονικούς πολίτες», ισχυρίζεται. «Η άποψή μου είναι πως είναι σε θέση να το αντιμετωπίσουν με διαφορετικό τρόπο - μπορούν απλώς να το ξεπεράσουν. Δεν αισθάνομαι πραγματικά ότι απαιτείται συναίνεση - είναι μια φαντασίωση, δεν είναι αληθινό», λέει στο BBC.
Πιστεύει ότι αυτό που κάνει είναι λάθος; Ένα μέρος του είναι «σε άρνηση σχετικά με τον αντίκτυπο στις γυναίκες», απαντά - και παραδέχεται ότι η σύζυγός του δεν ξέρει τι δουλειά κάνει. «Δεν το έχω πει στη γυναίκα μου. Φοβάμαι για το πώς μπορεί να την επηρεάσει».
Μέχρι πρόσφατα, το λογισμικό deepfake δεν ήταν εύκολα διαθέσιμο και ο μέσος χρήστης δεν θα μπορούσε να φτιάξει τέτοιο υλικό. Τώρα όμως, οποιοσδήποτε άνω των 12 ετών μπορεί να κατεβάσει νόμιμα δεκάδες εφαρμογές και να φτιάξει πειστικά deepfakes με μερικά κλικ, σχολιάζει το BBC.
Για την Κέτι, αυτό είναι ανησυχητικό και «πραγματικά τρομακτικό». «Δεν είναι στον σκοτεινό ιστό, είναι στα καταστήματα εφαρμογών - ακριβώς μπροστά στα μάτια μας».
Φοβάται ότι το αναμενόμενο νομοσχέδιο στη Βρετανία, για την ασφάλεια στο διαδίκτυο, δεν θα συμβαδίσει με τις τρέχουσες δυνατότητες της τεχνολογίας. Πριν από τρία χρόνια, όταν συντάχθηκε για πρώτη φορά το νομοσχέδιο, η δημιουργία deepfake θεωρούνταν επαγγελματική δεξιότητα στην οποία κάποιος θα έπρεπε να εκπαιδευτεί - και δεν θεωρούνταν ύποπτος ένας χρήστης που μπορούσε χωρίς δυσκολία να κατεβάσει απλώς μια εφαρμογή.
Έχουν περάσει χρόνια και το περιεχόμενο του προτεινόμενου νομοσχεδίου «είναι ξεπερασμένο - λείπουν τόσα πολλά», λέει.
Αλλά για τον Γκόρκεμ, η ποινικοποίηση του deepfaking θα άλλαζε τα πράγματα. «Αν μπορούσαν να με εντοπίσουν στο διαδίκτυο, θα σταματούσα εκεί και πιθανότατα θα έβρισκα άλλο χόμπι». Επιμένει να το αποκαλεί χόμπι, κι ας είναι καταστροφικό για τα θύματά του.
Το deepfake βίντεο και τα απειλητικά σχόλια επιδείνωσε υγεία της Κέιτ και τη διάθεσή της να εμπιστεύεται άλλους ανθρώπους. Πιστεύει ότι αυτοί που βρίσκονταν πίσω από τις επιθέσεις δεν προσπαθούσαν μόνο να την εκφοβίσουν και να την ταπεινώσουν, αλλά και να τη φιμώσουν. Για ένα διάστημα, αποσύρθηκε από την καμπάνια της, διερωτώμενη αν θα μπορούσε να συνεχίσει να μιλάει για τον μισογυνισμό.
Αλλά τώρα, είναι ακόμη πιο αγωνιστική. Συνειδητοποίησε ότι νοιαζόταν πάρα πολύ για να τα παρατήσει. «Δεν θα τους αφήσω να κερδίσουν».
Τα deepfakes μπορούν να χρησιμοποιηθούν για την χειραγώγηση γυναικών-θυμάτων, και οι εταιρείες τεχνολογίας - συμπεριλαμβανομένων εκείνων που κατασκευάζουν εφαρμογές που επιτρέπουν την αλλαγή προσώπων - θα πρέπει να παρέχουν δικλείδες ασφαλείες.
«Κάθε εφαρμογή θα πρέπει να είναι σε θέση να ανιχνεύει το σεξουαλικό περιεχόμενο. Εάν οι εταιρείες δεν έχουν επενδύσει χρήματα, πόρους και χρόνο για να διασφαλίσουν ότι η εφαρμογή τους δεν χρησιμοποιείται ως για τη δημιουργία περιεχομένου σεξουαλικής κακοποίησης, είναι σκόπιμα ανεύθυνες. Είναι ένοχες».
Με πληροφορίες από BBC
