Χιλιάδες γυναίκες που έχουν ανεβάσει απλές φωτογραφίες τους στα social media πέφτουν θύματα ενός δικτύου που αλλοιώνει ψηφιακά την εικόνα τους δημιουργώντας fake γυμνά.
Σύμφωνα με έκθεση της εταιρείας πληροφοριών Sensity, πάνω από 100.000 fake γυμνές φωτογραφίες γυναικών κυκλοφορούν στο διαδίκτυο, με βάση πρωτότυπες, συνήθως ολόσωμες φωτογραφίες που έχουν αλιευθεί από πραγματικά προφίλ στο Facebook, το Instagram και άλλες πλατφόρμες.
Τα ρούχα «αφαιρούνται» με την βοήθεια ενός συστήματος τεχνητής νοημοσύνης και τα fake γυμνά διαδίδονται μέσω της υπηρεσίας ανταλλαγής μηνυμάτων Telegram. Σε κάποιες από αυτές τις φωτογραφίες εμφανίζονται ακόμα και ανήλικα παιδιά. Οι υπεύθυνοι πίσω από την υπηρεσία υποστηρίζουν πως δεν υπάρχει τίποτε ουσιαστικά μεμπτό και κάνουν λόγο για «διασκέδαση», με την υπόθεση να αποκαλύπτει με τον πιο απτό τρόπο το νομικό κενό σε πολλές χώρες.
Η Sensity εκτιμά πως χρησιμοποιείται τεχνολογία "deepfake bot" που δημιουργεί ρεαλιστικές φωτογραφίες και βίντεο. Πολύ συχνά στόχοι γίνονται διάσημοι σταρ και σελέμπριτις των οποίων τα πρόσωπα καταλήγουν σε πορνογραφικά βίντεο. Ο διευθύνων σύμβουλος της Sensity, Giorgio Patrini, παρατηρεί πως πλέον στοχοποιούνται και απλοί πολίτες, κυρίως γυναίκες, που απλώς αναρτούν μερικές φωτογραφίες τους στα social media.
«Το να έχει κανείς λογαριασμό στα social media με δημόσιες φωτογραφίες είναι αρκετό για να γίνει στόχος», προειδοποιεί ο Patrini.
Τα bot τεχνητής νοημοσύνης είναι διαθέσιμα στην ιδιωτική υπηρεσία ανταλλαγής μηνυμάτων Telegram. Οι χρήστες μπορούν απλά να στείλουν τις κανονικές φωτογραφίες των θυμάτων και το σύστημα «γδύνει» τους στόχους μέσα σε λίγα λεπτά, χωρίς οικονομικό κόστος.
Μια παρόμοια εφαρμογή είχε τεθεί εκτός λειτουργίας πέρυσι, αλλά πιστεύεται ότι παρόμοιες εκδόσεις λογισμικού κυκλοφορούν πλέον ανεξέλεγκτα στο διαδίκτυο. Ο διαχειριστής της υπηρεσίας, γνωστός ως "P" δήλωσε: «Δεν με ενδιαφέρει και τόσο. Αυτό είναι διασκέδαση χωρίς βία. Κανείς δεν θα εκβιάσει κανέναν με αυτό, καθώς η ποιότητα δεν είναι ρεαλιστική».
Απαντώντας στην επικρίσεις, ο "P" απλώς περιορίστηκε στο να πει πως όταν στέλνουν φωτογραφίες ανηλίκων για εικονικό γδύσιμο, οι χρήστες μπλοκάρονται διά παντός. «Υπάρχουν πόλεμοι, ασθένειες, πολλά άσχημα και επιβλαβή πράγματα στον κόσμο», λέει επιχειρώντας να υποβαθμίσει την σοβαρότητα της υπόθεσης, ενώ γιγαντώνεται το κύμα αντιδράσεων για τις συνέπειες στις ζωές των θυμάτων ακόμα και από μία ψεύτικη φωτογραφία.
Ο "P" δήλωσε στο BBC πως σύντομα θα «σβήσει» όλες τις φωτογραφίες από την πλατφόρμα αλλά η αλήθεια παραμένει πως από την στιγμή που μία φωτογραφία θα αλλοιωθεί ψηφιακά, είναι στο χέρι του κάθε χρήστη να την μοιραστεί με οποιονδήποτε, οπουδήποτε. Οι υπεύθυνοι του Telegram δεν ήταν διαθέσιμοι για κάποιο σχόλιο.
Παιδοφιλικό περιεχόμενο
Από τον Ιούλιο του 2019 έως και το 2020, πάνω από 104.852 γυναίκες στοχοποιήθηκαν από την πλατφόρμα με fake γυμνές φωτογραφίες. Η έρευνα κατέδειξε πως κάποιοι χρήστες χρησιμοποιούν κατά κόρον το bot θέλοντας να δημιουργήσουν κυρίως παιδοφιλικό περιεχόμενο.
Το bot διαφημίζεται ευρέως στην πλατφόρμα VK στη Ρωσία και οι περισσότεροι χρήστες είναι από χώρες του πρώην σοβιετικού μπλοκ. Παρά τις διαφημίσεις που φιλοξενεί, το VK υποστηρίζει πως δεν επιτρέπει φωτογραφίες που παραβιάζουν τους κανόνες στην πλατφόρμα.
Οι συγγραφείς της έκθεσης κοινοποίησαν τα ευρήματα τόσο στο Telegram και στο VK, όσο και στις αρχές ασφαλείας, που για την ώρα δεν έχουν ανταποκριθεί.
Η Nina Schick, συγγραφέας του βιβλίου «Deep Fakes και Αποκάλυψη της πληροφορίας» λέει στο BBC πως δημιουργοί τέτοιου περιεχομένου δραστηριοποιούνται σε όλο τον κόσμο και σε νομικό επίπεδο τα κράτη «τρέχουν να προλάβουν» την επικίνδυνη πλευρά της τεχνολογικής προόδου.
Κατά την ίδια, είναι μόνο θέμα χρόνου να γίνει το περιεχόμενο ακόμα πιο πειστικό ενώ ο αριθμός των deep fake πορνό διπλασιάζεται κάθε έξι μήνες.
«Τα νομικά μας συστήματα δεν είναι έτοιμα για αυτό το ζήτημα. Η κοινωνία αλλάζει ταχύτερα από όσο μπορούμε να φανταστούμε εξαιτίας της εκθετικής προόδου της τεχνολογίας και ως κοινωνία δεν έχουν αποφασίσει για τους κανονισμούς. Είναι αποκαρδιωτικό για τα θύματα του fake πορνό. Μπορεί να αλλάξει την ζωή τους γιατί νιώθουν ταπεινωμένα και πως η ζωή τους έχει παραβιαστεί».
Πέρυσι, η πολιτεία της Βιρτζίνια στις ΗΠΑ έγινε μία από τις πρώτες που απαγόρευσε τα deepfakes. Στην Βρετανία, δεν αποτελούν προς το παρόν συγκεκριμένο αδίκημα.
Με πληροφορίες από BBC
σχόλια