Την Πέμπτη 11 Μαΐου, οι Επιτροπές του Ευρωκοινοβουλίου Εσωτερικής Αγοράς και Προστασίας των Καταναλωτών (IMCO) και Πολιτικών Ελευθεριών Δικαιοσύνης και Εσωτερικών Υποθέσεων (LIBE) ενέκριναν σχέδιο διαπραγματευτικής εντολής για τους πρώτους κανόνες για την Τεχνητή Νοημοσύνη TN με 84 ψήφους υπέρ, 7 κατά και 12 αποχές.
Στις τροπολογίες τους στην πρόταση της Επιτροπής, οι ευρωβουλευτές στοχεύουν να διασφαλίσουν ότι τα συστήματα τεχνητής νοημοσύνης επιβλέπονται από ανθρώπους, είναι ασφαλή, διαφανή, ανιχνεύσιμα, χωρίς διακρίσεις και φιλικά προς το περιβάλλον.
Θέλουν επίσης έναν ενιαίο ορισμό για την τεχνητή νοημοσύνη, σχεδιασμένο να είναι τεχνολογικά ουδέτερος, ώστε να μπορεί να ισχύει για τα σημερινά και τα αυριανά συστήματα τεχνητής νοημοσύνης.
Προτού ξεκινήσουν οι διαπραγματεύσεις με το Συμβούλιο για την τελική μορφή του νόμου, η διαπραγματευτική εντολή πρέπει να εγκριθεί από την Ολομέλεια του Ευρωπαϊκού Κοινοβουλίου, με την ψηφοφορία να αναμένεται κατά τη σύνοδο της 12ης-15ης Ιουνίου. Εφόσον εγκριθούν, θα είναι οι πρώτοι κανόνες για την Τεχνητή Νοημοσύνη στον κόσμο.
Προσέγγιση της ΤΝ με βάση τον κίνδυνο – Απαγορευμένες πρακτικές ΤΝ
Οι κανόνες ακολουθούν μια προσέγγιση με βάση τον κίνδυνο και θεσπίζουν υποχρεώσεις για τους παρόχους και τους χρήστες ανάλογα με το επίπεδο κινδύνου που μπορεί να δημιουργήσει η ΤΝ.
Τα συστήματα ΤΝ με απαράδεκτο επίπεδο κινδύνου για την ασφάλεια των ανθρώπων θα απαγορεύονται αυστηρά, συμπεριλαμβανομένων των συστημάτων που χρησιμοποιούν υποσυνείδητες ή σκόπιμα χειριστικές τεχνικές, εκμεταλλεύονται τα τρωτά σημεία των ανθρώπων ή χρησιμοποιούνται για κοινωνική βαθμολόγηση (ταξινόμηση των ανθρώπων με βάση την κοινωνική τους συμπεριφορά, την κοινωνικοοικονομική τους κατάσταση, τα προσωπικά τους χαρακτηριστικά).
Οι ευρωβουλευτές τροποποίησαν ουσιαστικά τον κατάλογο για να συμπεριλάβουν απαγορεύσεις για παρεμβατικές και διακριτικές χρήσεις των συστημάτων τεχνητής νοημοσύνης, όπως:
– “Σε πραγματικό χρόνο” συστήματα απομακρυσμένης βιομετρικής ταυτοποίησης σε δημόσια προσβάσιμους χώρους
– “Μεταγενέστερα” συστήματα απομακρυσμένης βιομετρικής ταυτοποίησης, με μόνη εξαίρεση την επιβολή του νόμου για τη δίωξη σοβαρών εγκλημάτων και μόνο μετά από δικαστική άδεια
– Συστήματα βιομετρικής κατηγοριοποίησης με χρήση ευαίσθητων χαρακτηριστικών (π.χ. φύλο, φυλή, εθνικότητα, ιδιότητα του πολίτη, θρησκεία, πολιτικός προσανατολισμός)
– Συστήματα προληπτικής αστυνόμευσης (με βάση τη δημιουργία προφίλ, την τοποθεσία ή την προηγούμενη εγκληματική συμπεριφορά)
– Συστήματα αναγνώρισης συναισθημάτων στην επιβολή του νόμου, τη διαχείριση των συνόρων, το χώρο εργασίας και τα εκπαιδευτικά ιδρύματα- και
– Αδιάκριτη απόσπαση βιομετρικών δεδομένων από μέσα κοινωνικής δικτύωσης ή υλικό από κάμερες κλειστού κυκλώματος παρακολούθησης για τη δημιουργία βάσεων δεδομένων αναγνώρισης προσώπου (παραβιάζοντας τα ανθρώπινα δικαιώματα και το δικαίωμα στην ιδιωτική ζωή).
Τεχνητή νοημοσύνη υψηλού κινδύνου
Παράλληλα διεύρυναν την ταξινόμηση των τομέων υψηλού κινδύνου ώστε να συμπεριλάβουν βλάβες στην υγεία, την ασφάλεια, τα θεμελιώδη δικαιώματα ή το περιβάλλον των ανθρώπων.
Πρόσθεσαν επίσης στον κατάλογο υψηλού κινδύνου τα συστήματα τεχνητής νοημοσύνης για τον επηρεασμό των ψηφοφόρων σε πολιτικές εκστρατείες και σε συστήματα συστάσεων που χρησιμοποιούνται από πλατφόρμες κοινωνικής δικτύωσης (με περισσότερους από 45 εκατομμύρια χρήστες βάσει του νόμου για τις ψηφιακές υπηρεσίες).
Συμπεριέλαβαν υποχρεώσεις για τους παρόχους ιδρυτικών μοντέλων – μια νέα και ταχέως εξελισσόμενη εξέλιξη στον τομέα της ΤΝ – οι οποίοι θα πρέπει να εγγυώνται ισχυρή προστασία των θεμελιωδών δικαιωμάτων, της υγείας και της ασφάλειας και του περιβάλλοντος, της δημοκρατίας και του κράτους δικαίου.
Θα πρέπει να αξιολογούν και να μετριάζουν τους κινδύνους, να συμμορφώνονται με τις απαιτήσεις σχεδιασμού, πληροφόρησης και περιβάλλοντος και να εγγράφονται στη βάση δεδομένων της ΕΕ.
Τα μοντέλα δημιουργικής θεμελίωσης, όπως το GPT, θα πρέπει να συμμορφώνονται με πρόσθετες απαιτήσεις διαφάνειας, όπως η γνωστοποίηση ότι το περιεχόμενο δημιουργήθηκε από ΤΝ, ο σχεδιασμός του μοντέλου ώστε να αποτρέπεται η δημιουργία παράνομου περιεχομένου και η δημοσίευση περιλήψεων των δεδομένων που προστατεύονται από πνευματικά δικαιώματα και χρησιμοποιήθηκαν για την εκπαίδευση.
Υποστήριξη της καινοτομίας και προστασία των δικαιωμάτων των πολιτών
Για να ενισχύσουν την καινοτομία της ΤΝ, οι ευρωβουλευτές πρόσθεσαν εξαιρέσεις σε αυτούς τους κανόνες για τις ερευνητικές δραστηριότητες και τα στοιχεία ΤΝ που παρέχονται με άδειες ανοικτού κώδικα. Ο νέος νόμος προωθεί ρυθμιστικά sandboxes, ή ελεγχόμενα περιβάλλοντα, που δημιουργούνται από τις δημόσιες αρχές για τη δοκιμή της ΤΝ πριν από την ανάπτυξή της.
Οι ευρωβουλευτές θέλουν να ενισχύσουν το δικαίωμα των πολιτών να υποβάλλουν καταγγελίες για συστήματα ΤΝ και να λαμβάνουν εξηγήσεις για αποφάσεις που βασίζονται σε συστήματα ΤΝ υψηλού κινδύνου και επηρεάζουν σημαντικά τα δικαιώματά τους.
Οι ευρωβουλευτές αναμόρφωσαν επίσης τον ρόλο του Γραφείου Τεχνητής Νοημοσύνης της ΕΕ, το οποίο θα είναι επιφορτισμένο με την παρακολούθηση του τρόπου εφαρμογής του εγχειριδίου κανόνων για την ΤΝ.
