Ο Μαρκ παρατήρησε ότι κάτι δεν πήγαινε καλά με το παιδί του. Το πέος του γιου του φαινόταν πρησμένο και τον πονούσε. Ο Μαρκ, ένας μπαμπάς που δεν εργάζεται εκτός σπιτιού, στο Σαν Φρανσίσκο, άρπαξε το Android κινητό του του και τράβηξε φωτογραφίες για να καταγράψει το πρόβλημα, ώστε να παρακολουθήσει την εξέλιξή του.
Ήταν βράδυ Παρασκευής, τον Φεβρουάριο του 2021. Η σύζυγός του τηλεφώνησε σε μια νοσηλεύτρια συμβούλων για να προγραμματίσει μια επείγουσα εκτίμηση για το επόμενο πρωί, μέσω βίντεο, επειδή ήταν Σάββατο και η πανδημία ήταν σε σε εξέλιξη. Η νοσοκόμα του ζήτησε να στείλουν φωτογραφίες ώστε ο γιατρός να τις εξετάσει εκ των προτέρων.
Η σύζυγος του Μαρκ άρπαξε το τηλέφωνο του συζύγου της και έστειλε στο iPhone της μερικά κοντινά πλάνα υψηλής ποιότητας από τη βουβωνική περιοχή του γιου τους, ώστε να μπορέσει να τα ανεβάσει στο σύστημα ηλεκτρονικών μηνυμάτων του παρόχου υγειονομικής περίθαλψης. Σε μία από αυτές, το χέρι του Mark ήταν ορατό, βοηθώντας στην καλύτερη απεικόνιση του πρηξίματος.
Ο Μαρκ και η σύζυγός του δεν σκέφτηκαν καθόλου τους τεχνολογικούς κολοσσούς που έκαναν δυνατή αυτή τη γρήγορη λήψη και ανταλλαγή ψηφιακών δεδομένων ή το τι θα μπορούσαν να νομίζουν οι αλγόριθμοί τους για τις εικόνες.
Με τη βοήθεια των φωτογραφιών, ο γιατρός διέγνωσε το πρόβλημα και συνταγογράφησε αντιβιοτικά που έδωσαν τη λύση. Όμως το περιστατικό άφησε τον Μαρκ με ένα πολύ μεγαλύτερο πρόβλημα, ένα πρόβλημα που θα του κόστιζε πάνω από μια δεκαετία επαφών, μηνυμάτων ηλεκτρονικού ταχυδρομείου και φωτογραφιών και θα τον έκανε στόχο αστυνομικής έρευνας.
Ο Μαρκ, ο οποίος ζήτησε να κατονομαστεί μόνο με το μικρό του όνομα στους New York Times, υπό τον φόβο πιθανής ζημίας στη φήμη του, είχε πιαστεί σε ένα αλγοριθμικό δίχτυ που έχει σχεδιαστεί για να παγιδεύει παιδεραστές και παιδόφιλους που ανταλλάσσουν υλικό σεξουαλικής κακοποίησης παιδιών.
Επειδή οι εταιρείες τεχνολογίας συλλέγουν έναν τεράστιο όγκο δεδομένων, δέχονται πιέσεις να ενεργούν ως φρουροί, εξετάζοντας τι περνάει από τους διακομιστές τους για να ανιχνεύσουν και να αποτρέψουν εγκληματικές συμπεριφορές.
Συνήγοροι για την προστασία των παιδιών λένε ότι η συνεργασία των εταιρειών τεχνολογίας είναι απαραίτητη για την καταπολέμηση της ανεξέλεγκτης διαδικτυακής διάδοσης εικόνων σεξουαλικής κακοποίησης. Όμως αυτό μπορεί να συνεπάγεται τη διείσδυση σε ιδιωτικά αρχεία, όπως ψηφιακά άλμπουμ φωτογραφιών - μια διείσδυση που οι χρήστες μπορεί να μην περιμένουν. Και αυτό είχε ως αποτέλεσμα μια αθώα πράξη να θεωρηθεί παράνομη, σε τουλάχιστον δύο περιπτώσεις.
Ο Jon Callas, τεχνολόγος στο Electronic Frontier Foundation, έναν οργανισμό ψηφιακών πολιτικών ελευθεριών, αποκάλεσε τις υποθέσεις αυτές «καναρίνια σε ανθρακωρυχείο». «Θα μπορούσαν να υπάρξουν δεκάδες, εκατοντάδες, χιλιάδες άλλες τέτοιες περιπτώσεις», προειδοποιεί. .
Δεδομένης της τοξικής φύσης των κατηγοριών, ο κ. Callas υπέθεσε ότι οι περισσότεροι άνθρωποι που έχουν χαρακτηριστεί άδικα ως σημαδεμένοι δεν θα δημοσιοποιούσαν τι είχε συμβεί.
«Ήξερα ότι αυτές οι εταιρείες παρακολουθούσαν και ότι η ιδιωτική ζωή δεν είναι αυτό που θα θέλαμε να είναι», δήλωσε ο Μαρκ. «Αλλά δεν έκανα τίποτα κακό». Η αστυνομία συμφώνησε. Η Google όχι.
Μια σοβαρή παραβίαση
Αφού δημιούργησε τον λογαριασμό του στο Gmail πριν δεκαετίες, ο Μαρκ, ο οποίος περίπου 40 ετών, άρχισε να βασίζεται σε μεγάλο βαθμό στη Google. Συγχρονίζει τα ραντεβού με τη σύζυγό του στο Ημερολόγιο της Google. Η εφαρμογή φωτογραφικής μηχανής του Android smartphone δημιουργούσε αντίγραφα ασφαλείας των φωτογραφιών και των βίντεο του στο cloud της Google. Είχε ακόμη και συνδρομή τηλεφώνου με το Google Fi.
Δύο ημέρες αφότου τράβηξε τις φωτογραφίες του γιου του, το τηλέφωνο του Μαρκ έβγαλε ένα θόρυβο ειδοποίησης: Ο λογαριασμός του είχε απενεργοποιηθεί λόγω «επιβλαβούς περιεχομένου» που αποτελούσε «σοβαρή παραβίαση των πολιτικών της Google και μπορεί να είναι παράνομο». Ένας σύνδεσμος «μάθετε περισσότερα» τον παρέπεμπε σε έναν κατάλογο πιθανών λόγων, συμπεριλαμβανομένης «σεξουαλικής κακοποίησης και εκμετάλλευσης παιδιών».
Ο Μαρκ μπερδεύτηκε στην αρχή, αλλά στη συνέχεια θυμήθηκε τη μόλυνση του γιου του. «Ω, Θεέ μου, η Google πιθανόν να πιστεύει ότι αυτό ήταν παιδική πορνογραφία», σκέφτηκε.
Ο ίδιος είχε εργαστεί ως προγραμματιστής για το αυτοματοποιημένο εργαλείο μιας μεγάλης εταιρείας τεχνολογίας, που αφαιρεί βίντεο τα οποία χαρακτηρίζονται προβληματικά από τους χρήστες. Ήξερε ότι τέτοια συστήματα συχνά έχουν έναν άνθρωπο σε θέση εποπτείας για να διασφαλίσουν ότι οι αλγόριθμοι δεν θα κάνουν λάθος. Έτσι, πίστεψε ότι η υπόθεσή του θα ξεκαθαριζόταν μόλις έφτανε σε αυτό το αντίστοιχο άτομο.
Συμπλήρωσε μια αίτηση ζητώντας την επανεξέταση της απόφασης της Google, εξηγώντας τη μόλυνση του γιου του. Ταυτόχρονα, ανακάλυψε το «φαινόμενο του ντόμινο» που είχε το κλείδωμα του λογαριασμού του από την Google. Όχι μόνο έχασε τα ηλεκτρονικά μηνύματα, τα στοιχεία επικοινωνίας για φίλους και πρώην συναδέλφους και τις φωτογραφίες και τα βίντεο των πρώτων χρόνων ζωής του γιου του, αλλά ο λογαριασμός του στο Google Fi έκλεισε, πράγμα που σημαίνει ότι έπρεπε να βρει νέο αριθμό τηλεφώνου με άλλον πάροχο.
Χωρίς πρόσβαση στον παλιό αριθμό τηλεφώνου και τη διεύθυνση ηλεκτρονικού ταχυδρομείου του, δεν μπορούσε να πάρει τους κωδικούς ασφαλείας που χρειαζόταν για να συνδεθεί σε άλλους λογαριασμούς στο διαδίκτυο, με αποτέλεσμα να αποκλειστεί από μεγάλο μέρος της ψηφιακής του ζωής. «Όσο περισσότερα αυγά έχεις σε ένα καλάθι, τόσο πιο πιθανό είναι να πέσει το καλάθι», είπε.
Σε ανακοίνωσή της, η Google ανέφερε: «Το υλικό σεξουαλικής κακοποίησης παιδιών είναι απεχθές και δεσμευόμαστε να αποτρέψουμε τη διάδοσή του στις πλατφόρμες μας.»
Λίγες ημέρες αφότου ο Μαρκ κατέθεσε την προσφυγή, η Google απάντησε ότι δεν θα επαναφέρει τον λογαριασμό, χωρίς περαιτέρω εξηγήσεις.
Ο Μαρκ δεν το γνώριζε, αλλά η ομάδα αναθεώρησης της Google είχε βάλει στη «μαύρη λίστα» ένα βίντεό του, και το αστυνομικό τμήμα του Σαν Φρανσίσκο ήδη τον ερευνούσε εν αγνοία του.
Πώς η Google εντοπίζει τις δυνητικά παράνομες εικόνες
Την επόμενη ημέρα από την έναρξη των προβλημάτων του Μαρκ, το ίδιο σενάριο διαδραματιζόταν και κάπου αλλού, στο Τέξας. Ένα νήπιο στο Χιούστον είχε μολυνθεί στην ευαίσθητη περιοχή, όπως έγραψε ο πατέρας του σε μια διαδικτυακή ανάρτηση. Ο παιδίατρος ζήτησε από τον κ. Κάσιο, να του στείλει μερικές φωτογραφίες.
Και αυτός χρησιμοποίησε ένα Android κινητό για να τραβήξει φωτογραφίες, των οποίων δημιουργήθηκαν αυτόματα αντίγραφα ασφαλείας στο Google Photos. Στη συνέχεια τις έστειλε στη σύζυγό του μέσω του chat της Google.
Εκείνη την περίοδο ο Cassio βρισκόταν στο μέσο των διαδικασιών για την εξαγορά ενός σπιτιού και υπέγραφε αμέτρητα ψηφιακά έγγραφα, όταν ξαφνικά ο λογαριασμός του στο Gmail απενεργοποιήθηκε. Ζήτησε από τον μεσίτη υποθηκών να αλλάξει τη διεύθυνση ηλεκτρονικού ταχυδρομείου του, γεγονός που έκανε τον μεσίτη καχύποπτο, μέχρι που ο άλλος μεσίτης, που εκπροσωπούσε τον Κάσιο, εγγυήθηκε γι' αυτόν.
«Ήταν ένας πονοκέφαλος», δήλωσε ο Κάσιο.
Εικόνες παιδιών που υφίστανται εκμετάλλευση ή σεξουαλική κακοποίηση εντοπίζονται κατά εκατομμύρια, κάθε χρόνο, από τεχνολογικούς κολοσσούς. Το 2021, μόνο η Google κατέθεσε πάνω από 600.000 αναφορές για υλικό παιδικής κακοποίησης και απενεργοποίησε περισσότερους από 270.000 λογαριασμούς 270.000 χρηστών. Οι εμπειρίες του Μαρκ και του Κάσιο ήταν «σταγόνες στον Ωκεανό.»
Το πρώτο εργαλείο της τεχνολογικής βιομηχανίας που παρεμπόδισε με αξιώσεις την εκτεταμένη διαδικτυακή ανταλλαγή υλικού παιδικής πορνογραφίας ήταν το PhotoDNA. Είναι μια βάση δεδομένων με γνωστές εικόνες κακοποίησης, οι οποίες μετατρέπονταν σε μοναδικούς ψηφιακούς κωδικούς. Με αυτό το εργαλείο μπορούσε να σαρωθεί γρήγορα μεγάλος αριθμός εικόνων για να εντοπιστεί η οποιαδήποτε ομοιότητα, ακόμη και αν μια φωτογραφία είχε τροποποιηθεί με ορισμένους τρόπους. Αφότου η Microsoft κυκλοφόρησε το PhotoDNA το 2009, το Facebook και άλλες εταιρείες τεχνολογίας το χρησιμοποίησαν για να ξετρυπώσουν χρήστες που κυκλοφορούσαν παράνομες και επιβλαβείς εικόνες.
«Είναι ένα καταπληκτικό εργαλείο», δήλωσε τότε ο πρόεδρος του Εθνικού Κέντρου για Εξαφανισμένα και Υπό Εκμετάλλευση Παιδιά.
Η «παντογνώστρια» τεχνητή νοημοσύνη
Μια μεγαλύτερη ανακάλυψη ήρθε σχεδόν μια δεκαετία αργότερα, το 2018, όταν η Google ανέπτυξε ένα εργαλείο τεχνητής νοημοσύνης που μπορούσε να αναγνωρίσει εικόνες εκμετάλλευσης παιδιών, ακόμα κι αν κυκλοφορούσαν για πρώτη φορά, χωρίς κάποια αντιστοιχία με παλιότερη, επιβεβαιωμένη βάση δεδομένων.
Αυτό σήμαινε ότι θα μπορούσε να βρει όχι μόνο γνωστές εικόνες κακοποιημένων παιδιών, αλλά και εικόνες άγνωστων θυμάτων που θα μπορούσαν ενδεχομένως να διασωθούν από τις αρχές. Η Google διέθεσε την τεχνολογία της σε άλλες εταιρείες, συμπεριλαμβανομένου του Facebook.
Όταν οι φωτογραφίες του Μαρκ και του Κάσιο μεταφορτώθηκαν αυτόματα από τα τηλέφωνά τους στους διακομιστές της Google, η τεχνολογία αυτή τις επισήμανε ως ύποπτες.
Ο Jon Callas της E.F.F. χαρακτήρισε τη σάρωση παρεμβατική, λέγοντας ότι ένα οικογενειακό άλμπουμ φωτογραφιών στην προσωπική συσκευή κάποιου θα έπρεπε να ανήκει στην «ιδιωτική σφαίρα"». Μια εκπρόσωπος της Google δήλωσε ότι η εταιρεία σαρώνει μόνο όταν γίνεται μια ενέργεια από έναν χρήστη- αλλά αυτό περιλαμβάνει και τη δημιουργία αντιγράφων ασφαλείας στο cloud της εταιρείας, που συχνά γίνεται αυτόματα.
«Αυτός ακριβώς είναι ο εφιάλτης για τον οποίο ανησυχούμε όλοι», δήλωσε ο Callas. «Θα σαρώσουν το οικογενειακό μου άλμπουμ και μετά θα μπω σε μπελάδες».
Ένας άνθρωπος σε ρόλο συντονιστή περιεχομένου για την Google θα εξέταζε τις φωτογραφίες μετά την επισήμανσή τους από την τεχνητή νοημοσύνη για να επιβεβαιώσει ότι ανταποκρίνονται στον ομοσπονδιακό ορισμό του υλικού σεξουαλικής κακοποίησης παιδιών. Όταν η Google κάνει μια τέτοια ανακάλυψη, κλειδώνει τον λογαριασμό του χρήστη, σαρώνει για τυχόν επιπλέον υλικό κακοποίησης και, όπως προβλέπει η νομοθεσία, κάνει αναφορά στη γραμμή CyberTipline του Εθνικού Κέντρου για τα Εξαφανισμένα και Υπό Εκμετάλλευση Παιδιά.
Ο μη κερδοσκοπικός οργανισμός έχει γίνει το κέντρο διαλεύκανσης υλικού κακοποίησης- πέρυσι έλαβε 29,3 εκατομμύρια αναφορές, κατά μέσο όρο 80.000 αναφορές την ημέρα. Η Fallon McNulty, η οποία διαχειρίζεται την CyberTipline, δήλωσε ότι οι περισσότερες από αυτές είναι εικόνες που είχαν εντοπιστεί και παλιότερα, και κυκλοφορούν ακόμα στο διαδίκτυο. Έτσι, το προσωπικό της, που αποτελείται από 40 αναλυτές, εστιάζει σε πιθανά νέα θύματα, ώστε να μπορούν να δώσουν προτεραιότητα σε αυτές τις περιπτώσεις για την επιβολή του νόμου.
«Γενικά, εάν το προσωπικό του NCMEC εξετάσει μια αναφορά της γραμμής CyberTipline και περιλαμβάνει υλικό εκμετάλλευσης που δεν έχει ξαναδεί, θα κλιμακωθεί» η παρέμβαση, δήλωσε η κ. McNulty. «Αυτό μπορεί να είναι ένα παιδί που δεν έχει ακόμη αναγνωριστεί ή τεθεί υπό προστασία» και μπορεί να κινδυνεύει ακόμα.
Η McNulty δήλωσε ότι η εκπληκτική ικανότητα της Google να εντοπίζει αυτές τις εικόνες ώστε ο οργανισμός της να είναι σε θέσει να τις αναφέρει στην αστυνομία για περαιτέρω έρευνα ήταν «ένα παράδειγμα του συστήματος που λειτουργεί όπως πρέπει».
Τα μέλη του προσωπικού της CyberTipline προσθέτουν κάθε νέα κακοποιητική εικόνα στη βάση δεδομένων που μοιράζεται με τις εταιρείες τεχνολογίας για σκοπούς σάρωσης. Όταν η σύζυγος του Μαρκ το έμαθε αυτό, διέγραψε τις φωτογραφίες που είχε τραβήξει ο Μαρκ με τον γιο τους από το iPhone της, από φόβο μήπως η Apple επισημάνει τον λογαριασμό της. Η Apple ανακοίνωσε πέρυσι σχέδια για τη σάρωση των φωτογραφιών iCloud για γνωστές σεξουαλικά κακοποιητικές απεικονίσεις παιδιών, αλλά η εφαρμογή καθυστέρησε επ' αόριστον μετά από την αντίσταση ομάδων προστασίας της ιδιωτικότητας.»
Το 2021, η CyberTipline ειδοποίησε τις αρχές για περισσότερα από 4.260 παιδιά που ίσως έχουν θύματα. Ανάμεσά τους συγκαταλέγονταν και οι γιοι του Μαρκ και του Κάσιο.
«Δεν κάναμε κάποιο έγκλημα»
Τον Δεκέμβριο του 2021, ο Μαρκ έλαβε ταχυδρομικώς έναν φάκελο από το αστυνομικό τμήμα του Σαν Φρανσίσκο. Περιείχε μια επιστολή που τον ενημέρωνε ότι είχε διεξαχθεί έρευνα εναντίον του, καθώς και αντίγραφα των ενταλμάτων έρευνας που είχαν επιδοθεί στη Google και στον πάροχο υπηρεσιών διαδικτύου του.
Ένας επιθεωρητής, του οποίου δόθηκαν τα στοιχεία επικοινωνίας, είχε ζητήσει να ελέγξει τα πάντα στον λογαριασμό του Μαρκ στη Google: τις αναζητήσεις του στο διαδίκτυο, το ιστορικό της θέσης του, τα μηνύματά του και κάθε έγγραφο, φωτογραφία και βίντεο που είχε αποθηκεύσει.
Η έρευνα, που αφορούσε «βίντεο εκμετάλλευσης παιδιών», είχε πραγματοποιηθεί τον Φεβρουάριο, μέσα σε μια εβδομάδα από τη λήψη των φωτογραφιών του γιου του. Ο Μαρκ τηλεφώνησε στον επιθεωρητή, τον Νίκολας Χίλαρντ, ο οποίος του είπε ότι η υπόθεση είχε κλείσει. Ο κ. Χίλαρντ είχε προσπαθήσει να επικοινωνήσει με τον Μαρκ, αλλά ο αριθμός τηλεφώνου και η διεύθυνση ηλεκτρονικού ταχυδρομείου «δεν δούλευαν». Η Google τα είχε όλα μπλοκάρει.
«Αποφάσισα ότι το περιστατικό δεν πληρούσε τα στοιχεία του εγκλήματος και ότι δεν συνέβη κανένα έγκλημα», έγραψε ο κ. Χίλαρντ στην έκθεσή του. Η αστυνομία είχε πρόσβαση σε όλες τις πληροφορίες που είχε η Google για τον Μαρκ και αποφάσισε ότι δεν συνιστούσε κακοποίηση ή εκμετάλλευση παιδιού.
Ο Μαρκ ρώτησε αν ο κ. Χίλαρντ θα μπορούσε να ενημερώσει και την Google ότι είναι αθώος, ώστε να πάρει πίσω τον λογαριασμό του. «Πρέπει να μιλήσετε με την Google», του απάντησε ο Χίλαρντ. «Εγώ δεν μπορώ να κάνω τίποτα».
Ο Μαρκ προσέφυγε ξανά στην Google, προσκομίζοντας την αστυνομική αναφορά, αλλά χωρίς αποτέλεσμα. Αφού έλαβε μια ειδοποίηση πριν από δύο μήνες ότι ο λογαριασμός του διαγράφεται οριστικά, ο Μαρκ μίλησε με έναν δικηγόρο σχετικά με τη μήνυση κατά της Google και πόσο μπορεί να κοστίσει. «Αποφάσισα ότι μάλλον δεν άξιζε 7.000 δολάρια», είπε.
Η Kate Klonick, καθηγήτρια νομικής στο Πανεπιστήμιο St. John's, η οποία έχει γράψει σχετικά με τον έλεγχο και τη διαχείριση του διαδικτυακού περιεχομένου, δήλωσε ότι μπορεί να είναι δύσκολο «να ληφθούν υπόψη πράγματα που είναι αόρατα σε μια φωτογραφία, όπως η συμπεριφορά των ανθρώπων που μοιράζονται μια εικόνα ή οι προθέσεις του ατόμου που τη βγάζει».
Τα εσφαλμένως θετικά αποτελέσματα είναι αναπόφευκτα, δεδομένων των δισεκατομμυρίων εικόνων που σαρώνονται. Αν και οι περισσότεροι άνθρωποι θα θεωρούσαν πιθανώς ότι τα πλεονεκτήματα αξίζουν τη «θυσία», δεδομένου του οφέλους από τον εντοπισμό κακοποιημένων παιδιών, η κα Klonick δήλωσε ότι οι εταιρείες οφείλουν να λάβουν σοβαρά μέτρα για την εκκαθάριση του ονόματος και την αποκατάσταση των λογαριασμών αθώων ανθρώπων που έχουν μπλοκαριστεί άδικα.
«Αυτό θα ήταν προβληματικό αν επρόκειτο απλώς μια περίπτωση ελέγχου περιεχομένου και λογοκρισίας», δήλωσε η κα Klonick. «Αλλά αυτό είναι διπλά επικίνδυνο, καθώς έχει επίσης ως αποτέλεσμα κάποιος να καταγγέλλεται στις αρχές επιβολής του νόμου».
Θα μπορούσε να είναι χειρότερα, είπε, αν ένας γονιός έχανε ενδεχομένως την επιμέλεια του παιδιού του. «Μπορείτε να φανταστείτε πώς αυτό θα μπορούσε να κλιμακωθεί», δήλωσε η Klonick.
Ο Κάσιο ερευνήθηκε επίσης από την αστυνομία. Ένας ντετέκτιβ από το αστυνομικό τμήμα του Χιούστον του τηλεφώνησε το φθινόπωρο του 2021, ζητώντας του να έρθει στο τμήμα.
Αφού ο Κάσιο έδειξε στον ντετέκτιβ τις επικοινωνίες του με τον παιδίατρο, τον απάλλαξαν γρήγορα. Αλλά και αυτός δεν μπόρεσε να ανακτήσει τον δεκαετή λογαριασμό του στο Google, παρόλο που ήταν χρήστης που πλήρωνε για τις διαδικτυακές υπηρεσίες της Google. Τώρα χρησιμοποιεί μια διεύθυνση Hotmail για το ηλεκτρονικό του ταχυδρομείο, για την οποία του κάνουν πλάκα αρκετοί, και δημιουργεί πολλαπλά αντίγραφα ασφαλείας των δεδομένων του.
«Δεν είναι απαραίτητο να το καταλαβαίνεις όταν το βλέπεις»
Δεν είναι όλες οι φωτογραφίες γυμνών παιδιών πορνογραφικές, κακοποιητικές ή καταχρηστικές. Η Carissa Byrne Hessick, καθηγήτρια νομικής στο Πανεπιστήμιο της Βόρειας Καρολίνας που γράφει για τα εγκλήματα παιδικής πορνογραφίας, λέει ότι ο νομικός ορισμός του τι συνιστά εικόνα σεξουαλικής κακοποίησης μπορεί να είναι περίπλοκος.
Αλλά η Hessick δήλωσε ότι συμφωνεί με την αστυνομία ότι οι εικόνες για ιατρικούς λόγους δεν πληρούν τις προϋποθέσεις. «Δεν υπάρχει κακοποίηση του παιδιού», είπε. «Η λήψη γίνεται για μη σεξουαλικούς λόγους».
Στη μηχανική μάθηση, ένα πρόγραμμα υπολογιστή εκπαιδεύεται με «σωστές» και «λάθος» πληροφορίες μέχρι να μπορεί να διακρίνει τη διαφορά τους. Για να αποφύγει την επισήμανση φωτογραφιών με μωρά στο μπάνιο ή παιδιά που τρέχουν χωρίς πολλά ρούχα ανάμεσα από ποτιστήρια στον κήπο, η τεχνητή νοημοσύνη της Google εκπαιδεύτηκε τόσο με εικόνες δυνητικά παράνομου υλικού που είχε βρει η Google σε λογαριασμούς χρηστών στο παρελθόν, όσο και με εικόνες που δεν ήταν ενδεικτικές κακοποίησης, ώστε να κατανοήσει με μεγαλύτερη ακρίβεια τι πρέπει να επισημάνει.
Στις φωτογραφίες που τράβηξε ο Μαρκ, η απόφαση του συστήματος να τις επισημάνει ήταν κατανοητή: πρόκειται για φωτογραφίες των γεννητικών οργάνων ενός παιδιού. Αλλά το πλαίσιο έχει σημασία: Τραβήχτηκαν από έναν γονέα που ανησυχούσε για το άρρωστο παιδί του.
Τι απαντά η Google
«Αναγνωρίζουμε ότι στην εποχή της τηλεϊατρικής και ιδιαίτερα της πανδημίας Covid, ήταν απαραίτητο για τους γονείς να τραβήξουν φωτογραφίες των παιδιών τους προκειμένου να λάβουν διάγνωση», δήλωσε η Claire Lilley, επικεφαλής της Google για την ασφάλεια των παιδιών. Η εταιρεία έχει συμβουλευτεί παιδίατρους, είπε η ίδια, ώστε οι άνθρωποι - ελεγκτές να κατανοήσουν τις πιθανές παθήσεις που μπορεί να εμφανίζονται σε φωτογραφίες που τραβήχτηκαν για ιατρικούς λόγους.
Η δρ Suzanne Haney, πρόεδρος του Συμβουλίου της Αμερικανικής Ακαδημίας Παιδιατρικής για την παιδική κακοποίηση και παραμέληση, συμβούλευσε τους γονείς να μην τραβούν φωτογραφίες των γεννητικών οργάνων των παιδιών τους, ακόμη και όταν το κατευθύνει γιατρός.
«Το τελευταίο πράγμα που θέλετε είναι ένα παιδί να νιώθει άνετα με κάποιον που φωτογραφίζει τα γεννητικά του όργανα», λέει η Δρ. Haney. “Αν είναι απολύτως απαραίτητο, αποφύγετε το ανέβασμα στο cloud και διαγράψτε τις αμέσως.‘.
Η ίδια πιστεύω ότι οι περισσότεροι γιατροί πιθανώς δεν γνώριζαν τους κινδύνους που ενέχει το να ζητούν από τους γονείς να βγάλουν τέτοιες φωτογραφίες.
«Επικροτώ την Google για αυτό που κάνει. Έχουμε ένα φρικτό πρόβλημα. Δυστυχώς, έμπλεξε και γονείς που προσπαθούν να κάνουν το σωστό για τα παιδιά τους».
Ο Κάσιο ενημερώθηκε από έναν εκπρόσωπο υποστήριξης πελατών νωρίτερα φέτος ότι η αποστολή των φωτογραφιών στη σύζυγό του χρησιμοποιώντας το Google Hangouts παραβίαζε τους όρους χρήσης της υπηρεσίας συνομιλίας. «Μην χρησιμοποιείτε το Hangouts με οποιονδήποτε τρόπο που εκμεταλλεύεται τα παιδιά», ανέφεραν οι όροι. «Η Google έχει πολιτική μηδενικής ανοχής απέναντι σε αυτό το περιεχόμενο».
Όσον αφορά τον Μαρκ, η Lilley, στη Google, δήλωσε ότι οι ελεγκτές δεν είχαν εντοπίσει εξάνθημα ή ερυθρότητα στις φωτογραφίες που τράβηξε και ότι η επακόλουθη εξέταση του λογαριασμού του έφερε στο φως ένα βίντεο έξι μήνες νωρίτερα, το οποίο η Google επίσης θεώρησε προβληματικό, με ένα μικρό παιδί να βρίσκεται στο κρεβάτι με μια γυναίκα χωρίς ρούχα.
Ο Μαρκ δεν θυμόταν αυτό το βίντεο και δεν είχε πλέον πρόσβαση σε αυτό, αλλά είπε ότι ακούγεται σαν μια ιδιωτική στιγμή που θα εμπνεόταν να απαθανατίσει, χωρίς να συνειδητοποιεί ότι θα την έβλεπε ή θα την έκρινε ποτέ κάποιος άλλος.
«Μπορώ να το κάνω εικόνα. Ξυπνήσαμε ένα πρωί. Ήταν μια όμορφη μέρα με τη γυναίκα μου και τον γιο μου και ήθελα να καταγράψω τη στιγμή», δήλωσε ο Mark. «Αν κοιμόμασταν με τις πιτζάμες, όλα αυτά θα μπορούσαν να είχαν αποφευχθεί».
Μια εκπρόσωπος της Google δήλωσε ότι η εταιρεία εμμένει στις αποφάσεις της, παρόλο που οι αστυνομικές αρχές απάλλαξαν τους δύο άνδρες.
«Ένοχος» εξ ορισμού
Η κα Hessick, η καθηγήτρια νομικής, λέει ότι η βοήθεια που παρέχουν οι εταιρείες τεχνολογίας στις διωκτικές αρχές για την αντιμετώπιση και την εξάλειψη της σεξουαλικής κακοποίησης παιδιών είναι «απίστευτα σημαντική», αλλά πιστεύει ότι θα έπρεπε να επιτρέπει διορθώσεις.
«Από τη σκοπιά της Google, είναι ευκολότερο να αρνηθεί σε αυτούς τους ανθρώπους τη χρήση των υπηρεσιών της». Διαφορετικά, η εταιρεία θα έπρεπε να δώσει απάντηση σε πιο δύσκολα ερωτήματα σχετικά με το «ποια είναι η κατάλληλη συμπεριφορά με τα παιδιά και στη συνέχεια τι είναι κατάλληλο να φωτογραφηθεί ή όχι».
Ο Μαρκ εξακολουθεί να ελπίζει ότι θα καταφέρει να ανακτήσει τις πληροφορίες του. Η αστυνομία του Σαν Φρανσίσκο έχει διατηρήσει τα περιεχόμενα του λογαριασμού του στη Google σε ένα στικάκι. Ο Μαρκ προσπαθεί τώρα να πάρει ένα αντίγραφο. Ένας εκπρόσωπος της αστυνομίας δήλωσε ότι το τμήμα είναι πρόθυμο να τον βοηθήσει.
Με στοιχεία από New York Times
