Η Ισπανία έχει «αφήσει την τύχη της» σε έναν αλγόριθμο για να βαθμολογήσει πόσο πιθανό είναι ένα θύμα ενδοοικογενειακής βίας να κακοποιηθεί ξανά και ποια προστασία πρέπει να παράσχει.
Σε ένα μικρό διαμέρισμα έξω από τη Μαδρίτη, στις 11 Ιανουαρίου 2022, ένας καυγάς για τις δουλειές του σπιτιού κατέληξε σε βίαιο επεισόδιο όταν ο σύζυγος της Lobna Hemid έσπασε μια ξύλινη θήκη παπουτσιών και χρησιμοποίησε ένα από τα σπασμένα κομμάτια για να τη χτυπήσει. Οι κραυγές της ακούστηκαν από τους γείτονες, ενώ τα τέσσερα παιδιά τους βρίσκονταν επίσης στο σπίτι.
Ο σύζυγος της για περισσότερο από μια δεκαετία την κακοποιούσε και την έβριζε συστηματικά, είπε η ίδια στην αστυνομία. Πριν φύγει από το τμήμα εκείνο το βράδυ, η αστυνομία έπρεπε να διαπιστώσει αν κινδύνευε να δεχτεί νέα επίθεση και αν χρειαζόταν υποστήριξη. Ένας αστυνομικός έκανε κλικ σε 35 ερωτήσεις ναι ή όχι - Χρησιμοποιήθηκε όπλο; Υπήρχαν οικονομικά προβλήματα; Επέδειξε ο επιτιθέμενος συμπεριφορές ελέγχου; - για να τροφοδοτήσει έναν αλγόριθμο που ονομάζεται VioGén, ο οποίος θα βοηθούσε στη δημιουργία μιας απάντησης.
Η αστυνομία αποδέχθηκε την απόφαση και η Hemid πήγε σπίτι της χωρίς περαιτέρω προστασία. Ο σύζυγός της που φυλακίστηκε νωρίτερα εκείνο το βράδυ, αφέθηκε ελεύθερος την επόμενη ημέρα. Επτά εβδομάδες αργότερα μαχαίρωσε θανάσιμα την 32χρονη πριν αυτοκτονήσει. Η Ισπανία έχει εξαρτηθεί από έναν αλγόριθμο για την καταπολέμηση της έμφυλης βίας, με το λογισμικό να είναι τόσο συνυφασμένο με την επιβολή του νόμου που είναι δύσκολο να γνωρίζουμε πού τελειώνουν οι συστάσεις του και πού αρχίζει η λήψη των ανθρώπινων αποφάσεων.
Το σύστημα αυτό μπορεί να βοήθησε την αστυνομία να προστατεύσει αρκετές γυναίκες και μείωσε τον αριθμό των επαναλαμβανόμενων επιθέσεων σε υποθέσεις ενδοοικογενειακής βίας. Όμως η εξάρτηση από το VioGén έχει επίσης οδηγήσει σε αποφάσεις που είχαν τραγικά αποτελέσματα.
Ισπανία: 247 γυναίκες έχουν δολοφονηθεί από το 2007 μετά από αξιολόγηση του VioGén
Η Ισπανία έχει τώρα 92.000 ενεργές υποθέσεις θυμάτων έμφυλης βίας που αξιολογήθηκαν από το VioGén, με τα περισσότερα από αυτά - το 83% - να έχουν ταξινομηθεί ως άτομα που αντιμετωπίζουν μικρό κίνδυνο να δεχτούν ξανά επίθεση. Περίπου το 8% των γυναικών που ο αλγόριθμος έκρινε ότι διατρέχουν μικρό κίνδυνο και το 14% που έκρινε ότι διατρέχουν πολύ χαμηλό κίνδυνο, έχουν αναφέρει ότι έχουν υποστεί ξανά επίθεση.
Όμως τουλάχιστον 247 γυναίκες, έχουν επίσης σκοτωθεί από τον νυν ή τον πρώην σύντροφό τους από το 2007 αφού αξιολογήθηκαν από το VioGén, σύμφωνα με κυβερνητικά στοιχεία, γεγονός που υποδεικνύει τις αδυναμίες του αλγορίθμου. Οι New York Times διαπίστωσαν ότι σε μια επανεξέταση των 98 από αυτές τις γυναικοκτονίες, 55 από τις δολοφονημένες γυναίκες αξιολογήθηκαν από το VioGén ως άτομα που έχουν χαμηλό κίνδυνο να πέσουν ξανά θύματα κακοποίησης.
Η αστυνομία της Ισπανίας είναι εκπαιδευμένη να παρακάμπτει τις συστάσεις της VioGén ανάλογα με τα στοιχεία, αλλά αποδέχεται τις βαθμολογίες κινδύνου περίπου στο 95% των περιπτώσεων, δήλωσαν αξιωματούχοι. Οι δικαστές μπορούν επίσης να χρησιμοποιούν τα αποτελέσματα όταν εξετάζουν αιτήσεις για περιοριστικά μέτρα και άλλα προστατευτικά μέτρα.
Η Ισπανία αποτελεί παράδειγμα για το πώς οι κυβερνήσεις στρέφονται σε αλγόριθμους για τη λήψη κοινωνικών αποφάσεων, μια παγκόσμια τάση που αναμένεται να αυξηθεί με την άνοδο της τεχνητής νοημοσύνης. Παράλληλα, τα θύματα που ερωτήθηκαν από τους Times, σπάνια γνώριζαν για τον ρόλο που έπαιξε ο αλγόριθμος στις υποθέσεις τους. Η κυβέρνηση δεν έχει επίσης δώσει στη δημοσιότητα ολοκληρωμένα στοιχεία σχετικά με την αποτελεσματικότητα του συστήματος και έχει αρνηθεί να διαθέσει τον αλγόριθμο για εξωτερικό έλεγχο.
Το VioGén δημιουργήθηκε για να αποτελέσει ένα αμερόληπτο εργαλείο που θα βοηθήσει την αστυνομία, προκειμένου να εντοπίσει και να προστατεύσει τις γυναίκες που κινδυνεύουν περισσότερο να πέσουν ξανά θύμα επίθεσης. Η τεχνολογία προοριζόταν να δημιουργήσει αποδοτικότητα βοηθώντας την αστυνομία να δώσει προτεραιότητα στις επείγουσες υποθέσεις, ενώ θα επικεντρωνόταν λιγότερο σε εκείνες που υπολογίζονται από τον αλγόριθμο ως χαμηλότερου κινδύνου.
Τα θύματα που ταξινομούνται ως υψηλότερου κινδύνου λαμβάνουν μεγαλύτερη προστασία, συμπεριλαμβανομένης της τακτικής περιπολίας στο σπίτι τους, της πρόσβασης σε καταφύγιο και της αστυνομικής παρακολούθησης των κινήσεων του θύτη τους. Όσοι έχουν χαμηλότερη βαθμολογία λαμβάνουν λιγότερη υποστήριξη.
Ισπανία: Αποτελεσματικό αλλά όχι τέλειο το VioGén
Το Υπουργείο Εσωτερικών της χώρας «υπερασπίστηκε» τον αλγόριθμο και δήλωσε πως η κυβέρνηση είναι η «πρώτη που πραγματοποιεί αυτοκριτική» όταν συμβαίνουν λάθη. Σημείωσε πως οι γυναικοκτονίες είναι δύσκολο να προβλεφθούν με ακρίβεια, αλλά πρόσθεσε ότι είναι «αδιαμφισβήτητο γεγονός» ότι το VioGén έχει συμβάλει στη μείωση της βίας κατά των γυναικών.
Από το 2007, περίπου το 0,03% των 814.000 καταγεγραμμένων θυμάτων έμφυλης βίας στην Ισπανία έχουν σκοτωθεί αφού αξιολογήθηκαν από το VioGén, συμπλήρωσε το υπουργείο. Κατά τη διάρκεια αυτής της περιόδου, οι επαναλαμβανόμενες επιθέσεις έχουν μειωθεί σε περίπου 15% όλων των περιπτώσεων έμφυλης βίας από 40%, σύμφωνα με κυβερνητικά στοιχεία. «Αν δεν υπήρχε αυτό, θα είχαμε περισσότερες ανθρωποκτονίες και βία λόγω φύλου», δήλωσε ο Juan José López Ossorio, ψυχολόγος που βοήθησε στη δημιουργία του VioGén και εργάζεται για το υπουργείο Εσωτερικών.
Σε ανακοίνωσή του, το υπουργείο Εσωτερικών ανέφερε ότι η ανάλυση των βαθμολογιών κινδύνου των θυμάτων ανθρωποκτονιών δεν παρέχει ακριβή εικόνα της αποτελεσματικότητας του VioGén, επειδή ορισμένες ανθρωποκτονίες συνέβησαν περισσότερο από ένα χρόνο μετά την πρώτη αξιολόγηση, ενώ άλλες διαπράχθηκαν από διαφορετικό σύντροφο.
Ο λόγος για τον οποίο ο αλγόριθμος κατατάσσει εσφαλμένα ορισμένες γυναίκες ποικίλλει και δεν είναι πάντα σαφής, αλλά ένας λόγος μπορεί να είναι η κακή ποιότητα των πληροφοριών που τροφοδοτούνται στο σύστημα. Το VioGén είναι ιδανικό για περιπτώσεις όπου μια γυναίκα, τις στιγμές μετά την επίθεση που δέχεται, μπορεί να παράσχει πλήρεις πληροφορίες σε έναν έμπειρο αστυνομικό που έχει χρόνο να διερευνήσει πλήρως το περιστατικό.
Αυτό όμως δεν συμβαίνει πάντα, καθώς ο φόβος, η ντροπή, η οικονομική εξάρτηση, η μεταναστευτική κατάσταση και άλλοι παράγοντες μπορεί να οδηγήσουν ένα θύμα στην απόκρυψη πληροφοριών. «Αν ήδη εισάγουμε λανθασμένες πληροφορίες στο σύστημα, πώς μπορούμε να περιμένουμε από το σύστημα να μας δώσει ένα καλό αποτέλεσμα;», δήλωσε η Elisabeth, θύμα που τώρα εργάζεται ως δικηγόρος σε θέματα έμφυλης βίας. Μίλησε υπό τον όρο να μη χρησιμοποιηθεί το πλήρες όνομά της, για το φόβο αντιποίνων από τον πρώην σύντροφό της.
«Εμείς οι γυναίκες αποσιωπούμε πολλά πράγματα, όχι επειδή θέλουμε να πούμε ψέματα, αλλά από φόβο. Το VioGén θα ήταν καλό αν υπήρχαν εξειδικευμένοι άνθρωποι που είχαν όλα τα απαραίτητα εργαλεία για να το υλοποιήσουν», κατέληξε.
Με πληροφορίες από New York Times
