Στο πιο ουσιαστικό νομοσχέδιο για την τεχνητή νοημοσύνη στον κόσμο, η Ευρωπαϊκή Ένωση αποφασίζει τώρα ποιοι νόμοι θα ισχύουν για την τεχνολογική αστυνόμευση.
AI για την αστυνομία
Σε όλη την Ευρώπη, η αστυνομία, οι αρχές μετανάστευσης και ασφάλειας επιδιώκουν να αναπτύξουν και να χρησιμοποιήσουν την τεχνητή νοημοσύνη σε αυξανόμενα πλαίσια. Από τη σχεδιαζόμενη χρήση βιντεοπαρακολούθησης με βάση την τεχνητή νοημοσύνη στους Ολυμπιακούς Αγώνες του Παρισιού το 2024 , μέχρι τα εκατομμύρια κονδυλίων της ΕΕ που επενδύθηκαν στην επιτήρηση με βάση την τεχνητή νοημοσύνη στα σύνορα της Ευρώπης , τα συστήματα τεχνητής νοημοσύνης αποτελούν όλο και περισσότερο μέρος της κρατικής υποδομής επιτήρησης.
Βλέπουμε επίσης τεχνητή νοημοσύνη να αναπτύσσεται με συγκεκριμένο σκοπό τη στόχευση συγκεκριμένων κοινοτήτων . Τεχνολογίες όπως η προγνωστική αστυνόμευση, ενώ παρουσιάζονται ως ουδέτερα εργαλεία για την καταπολέμηση του εγκλήματος, έχουν ως βάση τους την υπόθεση ότι ορισμένες ομάδες –ιδίως οι φυλετικοί, μετανάστες και οι άνθρωποι της εργατικής τάξης, είναι πιο πιθανό να διαπράξουν εγκλήματα.
Στην Ολλανδία, έχουμε δει τις τεράστιες συνέπειες που έχουν τα συστήματα προγνωστικής αστυνόμευσης για τους μαύρους και “καφέ” νέους . Το Top-600, ένα σύστημα σχεδιασμένο για την «προληπτική ταυτοποίηση» «πιθανών» βίαιων εγκληματιών, βρέθηκε, μετά από έρευνα, να υπερεκπροσωπεί σε δυσανάλογα μεγάλο βαθμό Μαροκινούς και Σουριναμέζους υπόπτους.
Στη μετανάστευση, υπάρχουν αυξημένες επενδύσεις σε εργαλεία τεχνητής νοημοσύνης για την πρόβλεψη της μετανάστευσης και την αξιολόγηση των ισχυρισμών μετανάστευσης με νέους και παράλογους τρόπους. Οργανισμοί της ΕΕ όπως ο Frontex, που εμπλέκονται σε ισχυρισμούς για διευκόλυνση της απώθησης αιτούντων άσυλο από την Ευρώπη, διερευνούν πώς μπορεί να χρησιμοποιηθεί η τεχνητή νοημοσύνη για την καταπολέμηση της «πρόκλησης» της αυξανόμενης μετανάστευσης . Υπάρχει σοβαρός κίνδυνος να χρησιμοποιηθούν τεχνολογίες για την πρόβλεψη και την πρόληψη της μετακίνησης προς την Ευρώπη, μια σαφής και παράνομη παραβίαση του δικαιώματος αναζήτησης ασύλου.
Η αυξανόμενη χρήση της τεχνητής νοημοσύνης σε περιβάλλοντα αστυνόμευσης και μετανάστευσης έχει τεράστιες συνέπειες για τις φυλετικές διακρίσεις και τη βία. Τεχνολογίες όπως η τεχνητή νοημοσύνη θα τροφοδοτήσουν αυτήν την πραγματικότητα του δομικού ρατσισμού μόνο με περισσότερα εργαλεία, περισσότερες νομικές εξουσίες και λιγότερη ευθύνη για την αστυνομία.
Ρύθμιση της αστυνομικής τεχνητής νοημοσύνης
Ένα αυξανόμενο κίνημα απαιτεί όρια στον τρόπο με τον οποίο το κράτος χρησιμοποιεί την τεχνολογία για να παρακολουθεί, να αναγνωρίζει και να παίρνει αποφάσεις για εμάς.
Ενώ οι κυβερνήσεις ισχυρίζονται ότι η αστυνομία χρειάζεται περισσότερα εργαλεία για να σταματήσει το έγκλημα και να διατηρήσει την τάξη, ρωτάμε ποιος μας προστατεύει από την αστυνομία; Ποιος αποφασίζει το όριο της μαζικής παρακολούθησης; Και πού τραβάμε τη γραμμή όταν, ειδικά για τους μετανάστες και τα άτομα από διαφορετικές φυλές, περισσότερη τεχνητή νοημοσύνη σημαίνει περισσότερες ελέγχους από την αστυνομία, μεγαλύτερος κίνδυνος σύλληψης και ολοένα αυξανόμενη απειλή βίας στις αλληλεπιδράσεις με την αστυνομία και τους συνοριοφύλακες;
Οι έλεγχοι της κρατικής και αστυνομικής εξουσίας είναι ουσιαστικοί για μια ασφαλή και λειτουργική δημοκρατία. Κανένας θεσμός δεν αξίζει ανεξέλεγκτη εξουσία και εμπιστοσύνη, ειδικά όταν έχει εργαλεία στη διάθεσή του για να παρακολουθεί κάθε μας κίνηση. Επιπλέον, με την εισαγωγή των τεχνολογιών τεχνητής νοημοσύνης βλέπουμε επίσης την έφοδο του ιδιωτικού τομέα και των τεχνολογιών στις κρατικές λειτουργίες, ενσωματώνοντας κίνητρα κέρδους στη συζήτηση για τη δημόσια ασφάλεια .
Η έκκληση για ρύθμιση της αστυνομικής τεχνητής νοημοσύνης αντηχεί στο Ευρωπαϊκό Κοινοβούλιο . Τον Ιούνιο του τρέχοντος έτους, το Ευρωπαϊκό Κοινοβούλιο επαλήθευσε την ανάγκη για νομικά όρια στον τρόπο με τον οποίο η αστυνομία και ο έλεγχος της μετανάστευσης χρησιμοποιούν την τεχνητή νοημοσύνη. Η θέση του Ευρωπαϊκού Κοινοβουλίου περιελάμβανε πλήρη απαγόρευση της χρήσης αναγνώρισης προσώπου σε δημόσιους χώρους, προγνωστική αστυνόμευση και αύξησε τον κατάλογο της τεχνητής νοημοσύνης «υψηλού κινδύνου» στον έλεγχο της μετανάστευσης.
Αλλά τώρα, στα τελευταία στάδια των διαπραγματεύσεων («τριμερείς διάλογοι») για τον νόμο της ΕΕ για την τεχνητή νοημοσύνη, οι ευρωπαϊκές κυβερνήσεις σχεδιάζουν μια δραστική μείωση των ορίων στη χρήση της τεχνητής νοημοσύνης από την επιβολή του νόμου.
Αυτή την εβδομάδα, 115 οργανώσεις της κοινωνίας των πολιτών ζήτησαν από την ΕΕ να δώσει προτεραιότητα στην ασφάλεια και τα ανθρώπινα δικαιώματα έναντι της ανεξέλεγκτης αστυνομικής δύναμης. Ζήτησαν νομικά όρια στον τρόπο με τον οποίο η αστυνομία και οι μεταναστευτικές αρχές χρησιμοποιούν την τεχνητή νοημοσύνη, συμπεριλαμβανομένης της απαγόρευσης των πιο επιβλαβών συστημάτων, όπως η αναγνώριση προσώπου στο δημόσιο χώρο, η προγνωστική αστυνόμευση και η τεχνητή νοημοσύνη για την πρόβλεψη και την πρόληψη των μεταναστευτικών ροών.
Πρέπει να γνωρίζουμε πότε και πού το κράτος χρησιμοποιεί την τεχνητή νοημοσύνη για να μας παρακολουθεί, να αξιολογεί και να κάνει διακρίσεις. Το κοινό πρέπει να θέσει όρια στον τρόπο με τον οποίο η αστυνομία χρησιμοποιεί τις τεχνολογίες. Χωρίς αυτά τα όρια, η ανεξέλεγκτη τεχνητή νοημοσύνη θα οδηγήσει σε ένα αστυνομικό κράτος.
Πηγή άρθρου: https://edri.org/