Οι πρώτοι νόμοι για τη ρύθμιση της τεχνητής νοημοσύνης ψηφίστηκαν μετά από μία ιστορική συμφωνία μεταξύ του Ευρωπαϊκού Κοινοβουλίου και των κρατών μελών της ΕΕ και ύστερα από μία μαραθώνια διαπραγμάτευση.
Η εν λόγω συμφωνία βάζει την ΕΕ πιο μπροστά στον «αγώνα δρόμου» για τη ρύθμιση της τεχνητής νοημοσύνης και την προστασία του κοινού από κινδύνους που περιλαμβάνουν πιθανή απειλή για τη ζωή, συγκριτικά με τις ΗΠΑ, την Κίνα και το Ηνωμένο Βασίλειο. Σημειώνεται βέβαια ότι οι νόμοι που έχουν ενταχθεί στη συμφωνία θα τεθούν σε ισχύ το νωρίτερο το 2025.
Η πολιτική συμφωνία μεταξύ του Ευρωπαϊκού Κοινοβουλίου και των κρατών μελών της ΕΕ σχετικά με νέους νόμους για τη ρύθμιση της τεχνητής νοημοσύνης αποδείχθηκε σκληρή, με συγκρούσεις και διαφωνίες σχετικά με τα μοντέλα θεμελίωσης. Κοινό σημείο στις συζητήσεις πάντως υπήρξε η αξιοποίηση και η συμβολή της τεχνητής νοημοσύνης τόσο στο έργο της Αστυνομίας, όσο και για τους εργοδότες και τους πωλητές, ώστε να μπορούν να καταγράφουν τον αριθμό των πελατών σε πραγματικό χρόνο, καθώς και το συναισθηματικό στρες των εργαζομένων.
Το Ευρωπαϊκό Κοινοβούλιο εξασφάλισε απαγόρευση της χρήσης επιτήρησης σε πραγματικό χρόνο με βιομετρικά συστήματα που στοχεύουν στην αυτόματη ταυτοποίηση και/ή αυθεντικοποίηση ενός φυσικού προσώπου, συμπεριλαμβανομένης της συναισθηματικής αναγνώρισης, αλλά με ορισμένες εξαιρέσεις, σύμφωνα με τον Μπρετόν. Αυτό θα σήμαινε ότι η Αστυνομία θα μπορούσε να χρησιμοποιήσει συστήματα τεχνητής νοημοσύνης μόνο σε περίπτωση απροσδόκητης απειλής τρομοκρατικής επίθεσης, ανάγκης αναζήτησης θυμάτων και δίωξης σοβαρών εγκλημάτων.
Ο ευρωβουλευτής κ. Brando Benefei, ο οποίος ηγήθηκε της διαπραγματευτικής ομάδας του κοινοβουλίου με τον κ. Dragoș Tudorache, τον Ρουμάνο ευρωβουλευτή που ηγήθηκε της τετραετούς μάχης του Ευρωπαϊκού Κοινοβουλίου για τη ρύθμιση της τεχνητής νοημοσύνης, είπε ότι εξασφάλισαν επίσης εγγύηση ότι οι «ανεξάρτητες αρχές» θα πρέπει να δώσουν άδεια «προβλεπόμενης αστυνόμευσης» για προστασία από την κακοποίηση από μέρους της Αστυνομίας, καθώς και το τεκμήριο της αθωότητας στο έγκλημα.
«Είχαμε έναν στόχο να εκδώσουμε μια νομοθεσία που θα διασφάλιζε ότι το σύστημα της τεχνητής νοημοσύνης στην Ευρώπη θα αναπτυχθεί με μια ανθρωποκεντρική προσέγγιση σεβόμενη τα θεμελιώδη δικαιώματα, τις ανθρώπινες αξίες, την οικοδόμηση εμπιστοσύνης, την οικοδόμηση της συνείδησης για το πώς μπορούμε να αξιοποιήσουμε αυτήν την τεχνητή νοημοσύνη, μία επανάσταση που εκτυλίσσεται μπροστά στα μάτια μας», είπε στους δημοσιογράφους σε συνέντευξη Τύπου στις Βρυξέλλες.
Τα κύρια στοιχεία της προσωρινής συμφωνίας
Σε σύγκριση με την αρχική πρόταση της Επιτροπής, τα κύρια νέα στοιχεία της προσωρινής συμφωνίας μπορούν να συνοψιστούν ως εξής:
-κανόνες για μοντέλα τεχνητής νοημοσύνης γενικής χρήσης υψηλού αντίκτυπου που μπορούν να προκαλέσουν συστημικό κίνδυνο στο μέλλον, καθώς και για συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου
-ένα αναθεωρημένο σύστημα διακυβέρνησης με ορισμένες εξουσίες επιβολής σε επίπεδο ΕΕ
-επέκταση του καταλόγου των απαγορεύσεων αλλά με δυνατότητα χρήσης εξ αποστάσεως βιομετρικής ταυτοποίησης από τις αρχές επιβολής του νόμου σε δημόσιους χώρους, με την επιφύλαξη διασφαλίσεων
-καλύτερη προστασία των δικαιωμάτων μέσω της υποχρέωσης για τους προγραμματιστές συστημάτων τεχνητής νοημοσύνης υψηλού κινδύνου να διενεργούν εκτίμηση επιπτώσεων στα θεμελιώδη δικαιώματα πριν θέσουν σε χρήση ένα σύστημα τεχνητής νοημοσύνης.
Ποινικές ρήτρες
Τα πρόστιμα για παραβάσεις του νόμου περί τεχνητής νοημοσύνης ορίστηκαν ως ποσοστό του παγκόσμιου ετήσιου κύκλου εργασιών της παραβατικής εταιρείας κατά το προηγούμενο οικονομικό έτος ή ως προκαθορισμένο ποσό, όποιο είναι μεγαλύτερο. Αυτό θα ήταν 35 εκατ. ευρώ ή 7% για παραβιάσεις των απαγορευμένων εφαρμογών τεχνητής νοημοσύνης, 15 εκατ. ευρώ ή 3% για παραβάσεις των υποχρεώσεων του νόμου περί τεχνητής νοημοσύνης και 7,5 εκατ. ευρώ ή 1,5% για παροχή εσφαλμένων πληροφοριών. Ωστόσο, η προσωρινή συμφωνία προβλέπει πιο αναλογικά ανώτατα όρια στα διοικητικά πρόστιμα για τις ΜΜΕ και τις νεοσύστατες επιχειρήσεις σε περίπτωση παραβίασης των διατάξεων του νόμου περί τεχνητής νοημοσύνης.
Η συμβιβαστική συμφωνία καθιστά επίσης σαφές ότι ένα φυσικό ή νομικό πρόσωπο μπορεί να υποβάλει καταγγελία στην αρμόδια αρχή εποπτείας της αγοράς σχετικά με μη συμμόρφωση με την πράξη τεχνητής νοημοσύνης και μπορεί να αναμένει ότι μια τέτοια καταγγελία θα διεκπεραιωθεί σύμφωνα με τις ειδικές διαδικασίες της εν λόγω αρχής.
Διαφάνεια και προστασία των θεμελιωδών δικαιωμάτων
Η προσωρινή συμφωνία προβλέπει αξιολόγηση του αντίκτυπου των θεμελιωδών δικαιωμάτων προτού διατεθεί στην αγορά ένα σύστημα τεχνητής νοημοσύνης υψηλού κινδύνου από τους δημιουργούς του. Η προσωρινή συμφωνία προβλέπει επίσης αυξημένη διαφάνεια όσον αφορά τη χρήση συστημάτων τεχνητής νοημοσύνης υψηλού κινδύνου. Συγκεκριμένα, ορισμένες διατάξεις της πρότασης της Επιτροπής έχουν τροποποιηθεί για να υποδειχθεί ότι ορισμένοι χρήστες ενός συστήματος τεχνητής νοημοσύνης υψηλού κινδύνου που είναι δημόσιοι φορείς θα υποχρεωθούν επίσης να εγγραφούν στη βάση δεδομένων της ΕΕ για συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου. Επιπλέον, οι νέες διατάξεις που προστέθηκαν δίνουν έμφαση στην υποχρέωση των χρηστών ενός συστήματος αναγνώρισης συναισθημάτων να ενημερώνουν τα φυσικά πρόσωπα όταν εκτίθενται σε ένα τέτοιο σύστημα.
Μέτρα στήριξης της καινοτομίας
Με σκοπό τη δημιουργία ενός νομικού πλαισίου που θα είναι πιο φιλικό προς την καινοτομία και για την προώθηση της ρυθμιστικής μάθησης βάσει στοιχείων, οι διατάξεις σχετικά με τα μέτρα υποστήριξης της καινοτομίας έχουν τροποποιηθεί σημαντικά σε σύγκριση με την πρόταση της Επιτροπής.
Συγκεκριμένα, διευκρινίστηκε ότι τα ρυθμιστικά sandboxes AI , τα οποία υποτίθεται ότι δημιουργούν ένα ελεγχόμενο περιβάλλον για την ανάπτυξη, τη δοκιμή και την επικύρωση καινοτόμων συστημάτων AI, θα πρέπει επίσης να επιτρέπουν τη δοκιμή καινοτόμων συστημάτων AI σε πραγματικές συνθήκες. Επιπλέον, έχουν προστεθεί νέες διατάξεις που επιτρέπουν τη δοκιμή συστημάτων τεχνητής νοημοσύνης σε πραγματικές συνθήκες , υπό συγκεκριμένες συνθήκες και διασφαλίσεις. Για την ελάφρυνση του διοικητικού φόρτου για τις μικρότερες εταιρείες, η προσωρινή συμφωνία περιλαμβάνει κατάλογο ενεργειών που πρέπει να αναληφθούν για την υποστήριξη αυτών των φορέων και προβλέπει ορισμένες περιορισμένες και σαφώς καθορισμένες παρεκκλίσεις.
Έναρξη ισχύος
Η προσωρινή συμφωνία προβλέπει ότι ο νόμος AI θα πρέπει να εφαρμόζεται δύο χρόνια μετά την έναρξη ισχύος του, με ορισμένες εξαιρέσεις για συγκεκριμένες διατάξεις.
Μετά την προσωρινή συμφωνία, οι εργασίες θα συνεχιστούν σε τεχνικό επίπεδο τις επόμενες εβδομάδες για να οριστικοποιηθούν οι λεπτομέρειες του νέου κανονισμού. Η Προεδρία θα υποβάλει το συμβιβαστικό κείμενο στους εκπροσώπους των κρατών μελών (Coreper) για έγκριση μόλις ολοκληρωθεί αυτή η εργασία. Ολόκληρο το κείμενο θα πρέπει να επιβεβαιωθεί και από τα δύο θεσμικά όργανα και να υποβληθεί σε νομική-γλωσσική αναθεώρηση πριν από την επίσημη έγκριση από τους συννομοθέτες.