Στις 8 Δεκεμβρίου, μετά από περισσότερες από 36 ώρες διαπραγματεύσεων, επιτεύχθηκε πολιτική συμφωνία σχετικά με τον νόμο της ΕΕ για την τεχνητή νοημοσύνη (AI).
Το Ευρωπαϊκό Κοινοβούλιο, το Συμβούλιο και η Επιτροπή έχουν μεσολαβήσει σε έναν συμβιβασμό υψηλού επιπέδου σχετικά με τους κύριους κανόνες για την τεχνητή νοημοσύνη στην Ευρώπη.
Ωστόσο, ενώ οι διαπραγματευτές της ΕΕ γιορτάζουν την ολοκλήρωση μιας από τις πιο αμφιλεγόμενες ψηφιακές νομοθεσίες στην ιστορία της ΕΕ, ο διάβολος θα είναι στις λεπτομέρειες.
Ο βαθμός στον οποίο ο νόμος περί τεχνητής νοημοσύνης προστατεύει τους ανθρώπους στην Ευρώπη από τις χειρότερες υπερβολές παρακολούθησης, διακρίσεις και βλάβες που βασίζονται στην τεχνητή νοημοσύνη θα απαιτήσει πληρέστερη αξιολόγηση των τεχνικών σχεδίων, τα οποία θα εμφανιστούν τις επόμενες εβδομάδες.
« Οι κυβερνήσεις της ΕΕ αναγκάστηκαν να παραδεχτούν ότι τα συστήματα τεχνητής νοημοσύνης χρησιμοποιούνται όλο και περισσότερο για μαζική παρακολούθηση, φυλετικό profiling και άλλους επιβλαβείς και επεμβατικούς σκοπούς. Ενώ η συμφωνία περιέχει ορισμένα περιορισμένα οφέλη για τα ανθρώπινα δικαιώματα, θα είναι ως επί το πλείστον ένα κέλυφος του νόμου για την τεχνητή νοημοσύνη που πραγματικά χρειάζεται η Ευρώπη ».
– Sarah Chander, Senior Policy Adviser, European Digital Rights
Μέχρι στιγμής, γνωρίζουμε ότι η συμφωνία περιλαμβάνει:
- Απαγόρευση της δημόσιας αναγνώρισης προσώπου, αλλά με αρκετές εξαιρέσεις για την αναζήτηση ορισμένων θυμάτων, υπόπτων και για την πρόληψη τρομοκρατικών επιθέσεων. Αν και αυτές οι συνθήκες είναι στενότερες από ό,τι είχαν πιέσει τα κράτη μέλη της ΕΕ, εντούτοις ανοίγουν ένα δρόμο για τη χρήση αυτών των συστημάτων με επικίνδυνους, μεροληπτικούς και μαζικούς τρόπους παρακολούθησης.
- Περιορισμός στη αναδρομική δημόσια αναγνώριση προσώπου μόνο στην αναζήτηση υπόπτων για σοβαρό έγκλημα, αν και το όριο για το τι συνιστά «σοβαρό» έγκλημα είναι επί του παρόντος απροσδιόριστο.
- Μερική απαγόρευση της προγνωστικής αστυνόμευσης, συμπεριλαμβανομένων προβλέψεων σχετικά με την πιθανότητα διάπραξης ποινικού αδικήματος με βάση «χαρακτηριστικά ή χαρακτηριστικά της προσωπικότητας», αλλά όχι την πλειοψηφία των συστημάτων πρόβλεψης αστυνόμευσης.
- Πλήρης απαγόρευση των συστημάτων αναγνώρισης συναισθημάτων, αλλά μόνο σε χώρους εργασίας και εκπαιδευτικούς χώρους . Αυτό παραλείπει παράλογα τις πιο επιβλαβείς χρήσεις από όλες: αυτές στην αστυνόμευση και στα σύνορα και τη μετανάστευση.
- Μια υποτιθέμενη απαγόρευση των βιομετρικών συστημάτων κατηγοριοποίησης , αν και αν αυτή η απαγόρευση θα έχει νόημα ή όχι είναι ακόμα ασαφές.
- Περιορισμένες διασφαλίσεις που βασίζονται σε δικαιώματα , συμπεριλαμβανομένης της υποχρεωτικής αξιολόγησης του αντίκτυπου των θεμελιωδών δικαιωμάτων και κάποιου επιπέδου δημόσιας διαφάνειας ως προς τα συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου που αναπτύσσονται στην Ευρώπη.
- Πολύ μεγάλα κενά στο συνολικό επίπεδο προστασίας , συμπεριλαμβανομένης της ευρείας διακριτικής ευχέρειας των προγραμματιστών τεχνητής νοημοσύνης να αποφασίσουν ότι τα συστήματά τους δεν είναι «υψηλού κινδύνου», καθώς και διάφορες εξαιρέσεις από τους κανόνες για το πότε οι αρχές επιβολής του νόμου, μετανάστευσης και εθνικής ασφάλειας χρησιμοποιούν «υψηλού κινδύνου» κινδύνου» AI. Αυτή είναι μια σημαντική απώλεια για τη δημόσια εποπτεία των πιο ανησυχητικών συστημάτων τεχνητής νοημοσύνης.
« Είναι δύσκολο να είσαι ενθουσιασμένος με έναν νόμο που, για πρώτη φορά στην ΕΕ, έχει λάβει μέτρα για να νομιμοποιήσει τη ζωντανή δημόσια αναγνώριση προσώπου σε ολόκληρο το μπλοκ. Ενώ το Κοινοβούλιο αγωνίστηκε σκληρά για να περιορίσει τη ζημιά, το συνολικό πακέτο για τη βιομετρική επιτήρηση και τη δημιουργία προφίλ είναι στην καλύτερη περίπτωση χλιαρό. Ο αγώνας μας ενάντια στη βιομετρική μαζική επιτήρηση πρόκειται να συνεχιστεί ».
– Ella Jakubowska, Senior Policy Advisor, European Digital Rights
Πηγή άρθρου: https://edri.org