Τεχνητή νοημοσύνη και Δίκιο. Τι επιτρέπεται τι κάνει το ρομπότ;

Η τεχνητή νοημοσύνη κάνει τη ζωή μας ευκολότερη από πολλές απόψεις. Αλλά ποιος είναι υπεύθυνος όταν αλγόριθμοι και ρομπότ κάνουν λάθη;

του Johannes Zeller

Τα συστήματα τεχνητής νοημοσύνης έχουν εφαρμογές σε όλες τις πτυχές της καθημερινής μας ζωής. Μοιάζουν δε όλο και περισσότερο σε εμάς τους ανθρώπους ως προς τις ικανότητές τους, γιατί σήμερα οι αλγόριθμοι μπορούν να είναι όχι μόνο λογικοί αλλά και δημιουργικοί. Τα ρομπότ μαθαίνουν μόνα τους καινούργια πράγματα. Τι σημαίνει αυτό σε νομικό επίπεδο; Μπορεί ένα ρομπότ να έχει δικαιώματα και υποχρεώσεις όπως ο άνθρωπος;

Ποιος φέρει την ευθύνη εάν το αυτο-οδηγούμενο αυτοκίνητο κάνει λάθος; Ερωτήματα σαν αυτό ανησυχούν νομικούς και κυβερνήσεις. | Φωτογραφία: © picture alliance/dieKLEINERT/Markus Grolik

Ζητήματα τέτοιας φύσης απασχολούν ηθικούς φιλοσόφους, νομικούς και κυβερνήσεις. Γιατί σφάλματα δεν κάνει μόνο ο άνθρωπος: Τα αυτόνομα προγράμματα λαμβάνουν αποφάσεις, που μπορεί να είναι και άστοχες – από αυτό δεν μπορεί να μας προστατέψει ούτε ο καλύτερος αλγόριθμος. Ας πάρουμε για παράδειγμα το αυτοκίνητο χωρίς οδηγό. Όπως όλοι όσοι κυκλοφορούν στο οδικό δίκτυο, πρέπει να τηρεί ορισμένους κανόνες. Σε αντίθεση με τον άνθρωπο, μπορεί να προγραμματιστεί με τέτοιον τρόπο ώστε να μην μπαίνει καν στον πειρασμό να παραβιάσει ένα όριο ταχύτητας ή να εκτελέσει μια επικίνδυνη προσπέραση. Τι συμβαίνει, όμως, αν άλλοι χρήστες του οδικού δικτύου αντιδράσουν με λάθος τρόπο; Αν, φερ’ ειπείν, εμφανιστεί ξαφνικά στο οδόστρωμα ένα ποδήλατο. Μπορούμε να φανταστούμε ότι μια μανούβρα με σκοπό την αποφυγή του ποδηλάτου θα έθετε σε κίνδυνο έναν περαστικό στο πεζοδρόμιο. Πρέπει λοιπόν το αυτοκίνητο να προγραμματιστεί έτσι ώστε να ρισκάρει τη μανούβρα; Ή πρέπει να αποφασίζει μόνο του; Κι αν πάρει τη λάθος απόφαση, ποιος φέρει την ευθύνη;

ΠΡΕΠΕΙ Η ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ ΝΑ ΕΧΕΙ ΝΟΜΙΚΗ ΠΡΟΣΩΠΙΚΟΤΗΤΑ;

Προκειμένου να δημιουργήσει εγκαίρως μια νομική βάση για τέτοιες δύσκολες περιπτώσεις, το Ευρωπαϊκό Κοινοβούλιο πρότεινε το 2017 να αποδοθεί στις έξυπνες μηχανές το καθεστώς του «ηλεκτρονικού προσώπου» το οποίο –ομοίως όπως σε ανθρώπους και εταιρείες– θα αναγνωρίζεται ως υποκείμενο δικαίου. Ωστόσο, η ιδέα δεν φάνηκε να ενθουσιάζει ιδιαίτερα τους ερευνητές της τεχνητής νοημοσύνης και τους νομικούς. Σε μια ανοιχτή επιστολή προς την Ευρωπαϊκή Επιτροπή, 250 ειδικοί τάχθηκαν κατά της πρωτοβουλίας αυτής: Βασίζεται στην εσφαλμένη παραδοχή ότι δεν μπορούν να αποδοθούν ευθύνες σε κανέναν εάν αυτόνομα ρομπότ λάβουν λανθασμένες αποφάσεις. Αυτή η παρανόηση έχει δημιουργηθεί μέσα από την παρουσίαση των ρομπότ στην επιστημονική φαντασία και μέσω δημοσιευμάτων εντυπωσιοθηρίας στον Τύπο, γράφουν οι ειδικοί στην επιστολή. Το ίδιο και το Ομοσπονδιακό Υπουργείο Οικονομίας και Ενέργειας (Bundesministerium für Wirtschaft und Energie, BMWi) δεν θεωρεί αναγκαίο να δημιουργηθεί το νομικό καθεστώς ενός «ηλεκτρονικού προσώπου». Τα νομικά ζητήματα που εγείρονται μέσω των έξυπνων μηχανών μπορούν να επιλυθούν στο πλαίσιο του υφιστάμενου νομικού πλαισίου, καταλήγει το BMWi σε μια έκθεση συμπερασμάτων για το θέμα «Τεχνητή Νοημοσύνη και Δίκαιο στο πλαίσιο της Βιομηχανίας 4.0»: «Τα συστήματα τεχνητής νοημοσύνης δεν έχουν κατακτήσει μέχρι σήμερα τέτοιο βαθμό αυτονομίας ώστε να μην είναι δυνατή η σύνδεση με την ανθρώπινη συμπεριφορά». Για τις συνέπειες της χρήσης τεχνητής νοημοσύνης, λέει το Υπουργείο, οι ευθύνες πρέπει επομένως να συνεχίσουν να βαραίνουν τον άνθρωπο, γιατί εντέλει δεν μπορούμε να επιρρίψουμε την ευθύνη αυτή σε μια άψυχη μηχανή ή σε ένα πρόγραμμα υπολογιστή.

ΤΟ ΡΟΜΠΟΤ ΩΣ ΔΗΜΙΟΥΡΓΟΣ;

Στον αντίποδα του προβληματισμού αυτού, τίθεται το ερώτημα του ποιος θα έπρεπε να καρπωθεί τα κέρδη εάν μια τεχνητή νοημοσύνη παραγάγει πνευματική ιδιοκτησία. Το θέμα δεν είναι τόσο καινούργιο. Ήδη από τη δεκαετία του 1960, ρομπότ που ζωγράφιζαν προκάλεσαν παρόμοιους προβληματισμούς. Τα έργα που δημιουργούσαν τα ρομπότ αυτά, ωστόσο, βασίζονταν ακόμα στο μεγαλύτερο μέρος τους σε τυχαίους αλγόριθμους, που δεν μπορούν σε καμία περίπτωση να συγκριθούν με την ανθρώπινη ευφυΐα. Τα τελευταία δέκα χρόνια, αντιθέτως, η τεχνητή νοημοσύνη φαίνεται πως έχει φτάσει σε ένα «νέο επίπεδο εξέλιξης», όπως αναγνωρίζει το BMWi στην έκθεσή του. Σήμερα, τα ρομπότ γράφουν ολόκληρα σενάρια και συνθέτουν μουσικά έργα, κάτι που δεν έχει καμιά σύγκριση με τις τυχαίες μουντζούρες που έκαναν στο παρελθόν. Μπορεί επομένως ένα ρομπότ να γίνει δημιουργός;

Εδώ, οι νομικοί παραπέμπουν συχνά σε ένα προηγούμενο από το ζωικό βασίλειο: Το 2008 ο Άγγλος φωτογράφος David J. Slater έδωσε στον μακάκο Naruto τη φωτογραφική μηχανή του. Ο μακάκος έβγαλε μια selfie που τρία χρόνια αργότερα έγινα viral κι έκανε τον γύρο του κόσμου. Η οργάνωση για την προστασία των ζώων Peta προσέφυγε στη δικαιοσύνη μηνύοντας τον φωτογράφο για το γεγονός ότι είχε έσοδα από τη φωτογραφία που τράβηξε ο Naruto. Ακολούθησε μια δικαστική διαμάχη πολλών ετών, που εκτυλίχθηκε στις ΗΠΑ. Το 2017, ο Slater συμφώνησε σε έναν εξωδικαστικό συμβιβασμό και δεσμεύτηκε να δωρίσει στην Peta το ένα τέταρτο των μελλοντικών εσόδων από τη selfie του Naruto. Παρ’ όλα αυτά, το Εφετείο του Σαν Φρανσίσκο δεν δέχθηκε τον συμβιβασμό. Απέρριψε την αγωγή με την αιτιολογία ότι ο ίδιος ο Naruto δεν είχε λόγο στον συμβιβασμό και ότι πρόθεση της Peta ήταν να δημιουργηθεί δικαστικό προηγούμενο. Η Peta υποχρεώθηκε επιπλέον να πληρώσει τα δικαστικά έξοδα του φωτογράφου. Ο Slater αναγνωρίστηκε ως ο κάτοχος των πνευματικών δικαιωμάτων της φωτογραφίας. Αργότερα, ο ίδιος μήνυσε το γερμανικό πανκ συγκρότημα Terrorgruppe, επειδή χρησιμοποίησε τη φωτογραφία στο εξώφυλλο δίσκου του χωρίς την εξουσιοδότηση του φωτογράφου. Η αμερικανική υπηρεσία πνευματικής ιδιοκτησίας όρισε ότι πνευματικά δικαιώματα μπορούν να χορηγούνται μόνο σε ανθρώπους και άρα όχι σε ζώα – ή σε ρομπότ.

Συνεπώς, για την ώρα, δικαστήρια και κυβερνήσεις δεν απαλλάσσουν τον άνθρωπο από την ευθύνη του για την τεχνητή νοημοσύνη που ο ίδιος έχει αναπτύξει, ακόμη και όταν οι εφευρέσεις του γίνονται οι ίδιες εφευρέτες. Τα δικαιώματα και τις υποχρεώσεις εξακολουθούν να τα έχουν οι χρήστες της τεχνητής νοημοσύνης, ή εκείνοι που την εφαρμόζουν. Ο βρετανικός νόμος περί των δικαιωμάτων του δημιουργού, σχεδίων και ευρεσιτεχνιών (Copyright Designs and Patent Act) κατέληξε ήδη το 1988 σε αυτήν την απόφαση όταν οι πρώτοι οικιακοί υπολογιστές είχαν εγείρει παρόμοια ερωτήματα, όπως σήμερα το «ρομπότ που μαθαίνει». Με την ιδέα αυτή φαίνεται να συμφιλιώνεται πλέον και η Ευρωπαϊκή Επιτροπή. Η τεχνολογία πρέπει εφαρμόζεται πάντα στην υπηρεσία της ανθρωπότητας και να ακολουθεί τους νόμους της, διευκρίνιζε τον Φεβρουάριο του 2020 σε μια ανακοίνωσή της για τη διαμόρφωση του ψηφιακού μέλλοντος της Ευρώπης.