Στη συγκεκριμένη διαφήμιση, μια γυναίκα με λευκό δαντελένιο φόρεμα κοιτάζει με λάγνο βλέμμα την κάμερα και στη συνέχεια γονατίζει. Υπάρχει κάτι λίγο αλλόκοτο πάνω της – ένα τρέμουλο στο πλάι του κροτάφου της, μια περίεργη ακινησία των χειλιών της. Αν δεν είναι κανείς ιδιαίτερα παρατηρητικός όμως, ίσως να μην αντιληφθεί ότι πρόκειται για deepfake κατασκεύασμα, αλλά για τα πρώτα πλάνα ενός βίντεο διαδικτυακού πορνό χαμηλού προϋπολογισμού.
Στην πάνω δεξιά γωνία, καθώς «λουπάρει» το βίντεο, υπάρχει μια φωτογραφία της ηθοποιού Έμα Γουότσον, τραβηγμένη όταν ήταν ακόμα έφηβη, από κάποια καμπάνια για τις ταινίες Harry Potter. Το πρόσωπό της έχει επικολληθεί πάνω στη φιγούρα της πορνοστάρ. Ξαφνικά, μια γυναίκα που δεν έχει παίξει ποτέ σε ταινία πορνό εμφανίζεται να το κάνει.
Τέτοιες διαφημίσεις, οι οποίες κατεύθυναν τους χρήστες σε μια εφαρμογή που δημιουργεί deepfake βίντεο, ανακαλύφθηκαν σε περισσότερες από 230 παραλλαγές στο Facebook, το Instagram και το Messenger, σύμφωνα με έρευνα που έκανε το NBC news. Οι περισσότερες περιείχαν την εικόνα της Γουότσον – κάποιες άλλες χρησιμοποιούσαν το πρόσωπο της Σκάρλετ Γιόχανσον. Οι ίδιες διαφημίσεις εμφανίστηκαν σε εφαρμογές επεξεργασίας φωτογραφιών και παιχνιδιών που είναι διαθέσιμες στο App Store της Apple. Για να μη χαθεί το μήνυμα στους θεατές, οι διαφημίσεις καθιστούν σαφές ότι προορίζονται να βοηθήσουν τους χρήστες να δημιουργήσουν μη συναινετικό πορνό με όποιες γυναίκες θέλουν. «Ανταλλάξτε ΟΠΟΙΟΔΗΠΟΤΕ ΠΡΟΣΩΠΟ στο βίντεο!», τονίζουν. «Αντικαταστήστε το πρόσωπο με οποιανδήποτε. Διασκεδάστε με την τεχνολογία ανταλλαγής προσώπων της τεχνητής νοημοσύνης».
Οι άνδρες συχνά χρησιμοποιούν την πορνογραφία ως εκδήλωση της περιφρόνησής τους για τις γυναίκες. Αυτό αποτελεί, στην πραγματικότητα, ένα σημαντικό μέρος της γοητείας του mainstream πορνό, τουλάχιστον σύμφωνα με την αντίληψη πολλών από τους άνδρες που το καταναλώνουν. Η πορνογραφία τους επιτρέπει να φαντάζονται ότι έχουν τον έλεγχο των γυναικών προκαλώντας τους πόνο και εξευτελισμό.
Παρόμοιες διαφημίσεις για υπηρεσίες deepfake εμφανίζονται δίπλα σε βίντεο πορνό του PornHub. Αν και η τεχνολογία deepfake μπορεί θεωρητικά να χρησιμοποιηθεί για κάθε είδους περιεχόμενο – από φάρσα και σάτιρα μέχρι κακόβουλες εκστρατείες πολιτικής παραπληροφόρησης – στη συντριπτική πλειοψηφία της χρησιμοποιείται για τη δημιουργία μη συναινετικού πορνό. Σύμφωνα με μια έρευνα του 2019, το 96% του deepfake υλικού στο διαδίκτυο είναι πορνογραφικό. Το ποσοστό αυτό μπορεί και να έχει αυξηθεί στο μεταξύ. Οι διαφημίσεις στις πλατφόρμες εμφανίστηκαν καθώς η καταναλωτική ζήτηση για deepfake πορνογραφία έχει απογειωθεί.
Η ραγδαία αύξηση του αριθμού και της διαθεσιμότητας των μη συναινετικών βίντεο πορνό με deepfake περιεχόμενο εγείρει ανησυχητικά ερωτήματα σχετικά με την ιδιωτικότητα και τη συναίνεση στο ψηφιακό μέλλον. Πώς θα διαχειριστεί τη ζωή και την υπόληψή του ο τεράστιος αριθμός γυναικών – αλλά και ο μικρότερος αριθμός ανδρών – που επηρεάζονται από αυτό το νέο είδος εκδικητικού πορνό εκδίκησης με μοχλό την τεχνητή νοημοσύνη; Καθώς η τεχνολογία βελτιώνεται, πώς θα γνωρίζουν οι θεατές τη διαφορά μεταξύ της πραγματικότητας και της μυθοπλασίας που δημιουργείται από την τεχνητή νοημοσύνη; Πώς μπορεί να αφαιρεθεί μη συναινετικό υλικό όταν το διαδίκτυο κινείται πολύ πιο γρήγορα από την οποιαδήποτε απόπειρα ελέγχου και ρύθμισής του;
Το παράδειγμα αυτών των εφαρμογών φωτίζει επίσης κάτι παλαιότερο και πιο άβολο σχετικά με την ίδια τη φύση της πορνογραφίας: ότι οι άνδρες συχνά την χρησιμοποιούν ως εκδήλωση της περιφρόνησής τους για τις γυναίκες. Αυτό αποτελεί, στην πραγματικότητα, ένα σημαντικό μέρος της γοητείας του mainstream πορνό, τουλάχιστον σύμφωνα με την αντίληψη πολλών από τους άνδρες που το καταναλώνουν. Η πορνογραφία τους επιτρέπει να φαντάζονται ότι έχουν τον έλεγχο των γυναικών προκαλώντας τους πόνο και εξευτελισμό. Το deepfake revenge porn απλώς εκπληρώνει μέσω της τεχνολογίας τη βεβαιότητα ότι οποιαδήποτε γυναίκα μπορεί να γίνει κατώτερη, να υποβαθμιστεί και να ταπεινωθεί, μέσω της σεξουαλικής βίας. Το ζητούμενο είναι ο εξευτελισμός, η σκληρότητα, η απουσία συναίνεσης.
Δεν υπάρχει άλλος τρόπος, στην πραγματικότητα, για να κατανοήσουμε την απήχηση της deepfake πορνογραφίας. Δεν στερείται άλλωστε το διαδίκτυο σεξουαλικό περιεχομένο που απεικονίζει πραγματικούς και συναινούντες ενήλικες. Αυτό που προσφέρουν αυτές οι εφαρμογές στους χρήστες τους είναι η ευκαιρία να πληγώσουν τις γυναίκες, εξαναγκάζοντάς τες να συμμετέχουν σε πορνογραφικό περιεχόμενο παρά τη θέλησή τους.
Προς το παρόν, οι γυναίκες αλλά και οποιοσδήποτε αποτελεί στόχο του deepfake revenge porn έχουν περιορισμένες δυνατότητες νομικής προσφυγής. Οι περισσότερες αμερικανικές πολιτείες έχουν νόμους που τιμωρούν το πορνό εκδίκησης, αλλά μόνο τέσσερις – η Καλιφόρνια, η Νέα Υόρκη, η Τζόρτζια και η Βιρτζίνια – απαγορεύουν τα μη συναινετικά deepfakes. Οι εταιρείες που φιλοξενούν τις εφαρμογές έχουν συχνά την έδρα τους στο εξωτερικό, ως επί το πλείστον εκτός εμβέλειας της επιβολής του νόμου. Στο μεταξύ, όλο και περισσότεροι άνδρες θα αρχίσουν να χρησιμοποιούν την τεχνολογία εναντίον όλο και περισσότερων γυναικών.
Με στοιχεία απο The Guardian
