Η απόφαση του κυβερνήτη της Καλιφόρνια Gavin Newsom (D) να ασκήσει βέτο σε ένα σαρωτικό νομοσχέδιο για την τεχνητή νοημοσύνη (AI) ανανέωσε τη συζήτηση για το μέλλον της ρύθμισης της τεχνολογίας, αφήνοντας διαφορετικούς τομείς της τεχνολογικής βιομηχανίας σε μεγάλο βαθμό σε διαφωνίες σχετικά με την καλύτερη πορεία προς τα εμπρός.
Ενώ το βέτο του Newsom στο νομοσχέδιο 1047 της Γερουσίας της Καλιφόρνια μπορεί να έχει σταματήσει το επίμαχο μέτρο – τουλάχιστον προς το παρόν – έχει πολιτειακούς νομοθέτες, εμπειρογνώμονες τεχνητής νοημοσύνης και ομάδες υπεράσπισης της τεχνολογίας σε αντίθεση για το τι θα ακολουθήσει για την αναδυόμενη τεχνολογία.
Ορισμένες ομάδες υπεράσπισης τεχνολογίας εξέφρασαν γρήγορα την απογοήτευσή τους με το βέτο του SB 1047 – τον νόμο για την ασφαλή και ασφαλή καινοτομία για τα μοντέλα τεχνητής νοημοσύνης συνόρων – υποστηρίζοντας ότι η Καλιφόρνια έχασε την ευκαιρία να ηγηθεί με τους πρώτους στο είδος της κανονισμούς σε μερικούς από τους μεγαλύτερους AI της χώρας προγραμματιστές.
«(SB 1047) ήταν η πρώτη νομοθεσία του είδους της που τέθηκε και έθεσε σε ισχύ πραγματικές διασφαλίσεις για μερικές από τις μεγαλύτερες και πιο τρομακτικές άγνωστες πιθανές χρήσεις της τεχνητής νοημοσύνης — οι οποίες, ιδιαίτερα δεδομένης της ταχείας προόδου της τεχνολογίας, είναι πολύ σημαντικό για εμάς να βάλτε αυτά τα προστατευτικά κιγκλιδώματα για να προχωρήσουμε», είπε στο The Hill η Kaili Lambe, η διευθύντρια πολιτικής και υπεράσπισης της Accountable Tech.
Το SB 1047 θα απαιτούσε από ισχυρά μοντέλα AI να υποβληθούν σε δοκιμές ασφαλείας πριν κυκλοφορήσει στο κοινό. Οι δοκιμές θα είχαν εξετάσει εάν αυτά τα συστήματα θα μπορούσαν να χειραγωγηθούν από κακόβουλους παράγοντες για βλάβη, όπως η πειρατεία στο ηλεκτρικό δίκτυο της πολιτείας.
Επιδίωξε επίσης να θεωρήσει υπεύθυνους τους προγραμματιστές τεχνητής νοημοσύνης για σοβαρή βλάβη που προκλήθηκε από τα μοντέλα τους, αλλά θα είχε εφαρμοστεί μόνο σε συστήματα τεχνητής νοημοσύνης που κοστίζουν περισσότερα από 100 εκατομμύρια δολάρια για την εκπαίδευση. Κανένα τρέχον μοντέλο δεν έχει φτάσει ακόμα σε αυτόν τον αριθμό.
Η Λάμπε είπε ότι η αποτυχία του νομοσχεδίου την απασχολεί, επειδή η νομοθεσία και η νομοθεσία συχνά κινούνται αργά ενώ η τεχνολογία κινείται «γρήγορα».
Ο Landon Klein, διευθυντής του Ινστιτούτου Πολιτικής των ΗΠΑ για το Μέλλον της Ζωής (FLI), συμφώνησε, δηλώνοντας ότι υπάρχει έγκαιρη ανάγκη για ρύθμιση για να συμβαδίσει με την ταχεία ανάπτυξη. Το FLI είναι ένας μη κερδοσκοπικός οργανισμός που επικεντρώνεται στους υπαρξιακούς κινδύνους για την κοινωνία.
«Ένας χρόνος είναι μια ζωή όσον αφορά τις γενιές αυτών των συστημάτων και υπάρχει σημαντικός κίνδυνος κατά τη διάρκεια αυτού του έτους», είπε. «Και διατρέχουμε επίσης τον κίνδυνο μιας τέτοιας ευρύτερης ενσωμάτωσης της τεχνολογίας στην κοινωνία που καθιστά πιο δύσκολη τη ρύθμιση στο μέλλον».
Στο μήνυμά του για βέτο την Κυριακή, ο Newsom είπε ότι το νομοσχέδιο ήταν «καλοπροαίρετο», αλλά «δεν λαμβάνει υπόψη εάν ένα σύστημα τεχνητής νοημοσύνης αναπτύσσεται σε περιβάλλοντα υψηλού κινδύνου, περιλαμβάνει κρίσιμες αποφάσεις ή χρήση ευαίσθητων δεδομένων».
«Αντίθετα, το νομοσχέδιο εφαρμόζει αυστηρά πρότυπα ακόμη και για τις πιο βασικές λειτουργίες – εφόσον το χρησιμοποιεί ένα μεγάλο σύστημα», είπε, υποστηρίζοντας μια «εμπειρική ανάλυση τροχιάς» των συστημάτων AI και των δυνατοτήτων τους πριν βρεθεί λύση.
Το βέτο φαίνεται να αποδυναμώνει τον δρόμο για το θέμα, αν και ο Newsom είπε την Κυριακή ότι η πολιτεία σχεδιάζει να συνεργαστεί με κορυφαίους εμπειρογνώμονες του κλάδου, συμπεριλαμβανομένης της Fei-Fei Li – γνωστής ως «νονά» της τεχνητής νοημοσύνης – για την ανάπτυξη προστατευτικών κιγκλιδωμάτων που βασίζονται σε « εμπειρική, βασισμένη στην επιστήμη ανάλυση τροχιάς».
Ο Klein πρότεινε ότι αυτή η πρωτοβουλία θα μπορούσε να είναι «λίγο πολύ αργά».
«Μέχρι να ολοκληρωθεί η διαδικασία, τουλάχιστον μία, αν όχι πολλές νέες γενιές όλο και πιο ισχυρών συστημάτων πρόκειται να βγουν, όλα αυτά κάτω από την ίδια δομή κινήτρων κέρδους που έχει οδηγήσει πολλές από τις μεγαλύτερες εταιρείες σε περικοπές για την ασφάλεια», είπε.
Ενώ απογοητευμένος, ο Λάμπε πρότεινε ότι δεν είναι το τέλος του δρόμου για τη ρύθμιση.
«Θα κρατήσουμε πραγματικά τον κυβερνήτη Newsom στο λόγο του ότι θα συνεχίσει να προσπαθεί να βρει λύσεις εδώ», είπε, προσθέτοντας, «Πιστεύω ότι αυτά που θα δείτε σε αυτήν την επόμενη νομοθετική σύνοδο (είναι) πολλά νομοσχέδια σε πολλές πολιτείες που προτείνουν άλλα πλαίσια ασφάλειας τεχνητής νοημοσύνης, τα οποία ελπίζω ότι θα ασκήσουν πίεση στην ομοσπονδιακή κυβέρνηση να αναλάβει επίσης δράση».
Ο Sneha Revanur, ο ιδρυτής της Encode Justice – μια παγκόσμια ομάδα υπεράσπισης της νεολαίας – και συνχορηγός του SB 1047 τόνισε επίσης ότι οι υποστηρικτές θα συνεχίσουν να πιέζουν για ρύθμιση.
«Θα επιστρέψουμε σύντομα — είτε πρόκειται για Καλιφόρνια είτε για άλλη σκηνή, είτε ομοσπονδιακά είτε διεθνώς. Θα επιστρέψουμε σύντομα», είπε στο The Hill.
Το νομοσχέδιο τράβηξε την εθνική προσοχή τις τελευταίες εβδομάδες και, σε συνδυασμό με το βέτο του Newsom, ο Revanur και άλλοι πιστεύουν ότι ευαισθητοποιεί σχετικά με την πίεση για ρύθμιση.
«Οι άνθρωποι βλέπουν το παγκόσμιο διακύβευμα αυτής της πολιτικής μάχης. Και νομίζω ότι αυτό, από μόνο του, είναι ένα αξιοσημείωτο επίτευγμα και σημαίνει ότι το κίνημα ασφάλειας της τεχνητής νοημοσύνης παίρνει πραγματικά τον ατμό και παίρνει θέσεις. Και εννοώ, αυτό ακριβώς χτίζουμε τα θεμέλια για την επόμενη νίκη μας», είπε.
Ο γερουσιαστής της πολιτείας της Καλιφόρνια Scott Wiener (D), ο συγγραφέας του SB 1047, χαρακτήρισε το βέτο «πίσω», αλλά είπε ότι ο αγώνας για το νομοσχέδιο «προώθησε δραματικά το ζήτημα της ασφάλειας της τεχνητής νοημοσύνης στη διεθνή σκηνή».
Εν τω μεταξύ, ορισμένοι ειδικοί στην τεχνητή νοημοσύνη ή στο λογισμικό προειδοποιούν κατά της πίεσης για ρύθμιση και επικρότησαν την κίνηση της Newsom να ασκήσει βέτο στο νομοσχέδιο.
Κάποιοι είπαν στο The Hill ότι χρειάζονται περισσότερα στοιχεία προτού οι νομοθέτες αρχίσουν να τοποθετούν προστατευτικά κιγκλιδώματα στην τεχνολογία. Αυτό περιλαμβάνει περαιτέρω έρευνα σχετικά με τους συγκεκριμένους κινδύνους της ανάπτυξης της τεχνητής νοημοσύνης και την πιο αποτελεσματική απόκριση όταν αυτοί εντοπίζονται, είπαν οι ειδικοί.
Αυτό είναι το μεγάλο ερώτημα με το οποίο παλεύει η βιομηχανία και ο ακαδημαϊκός κόσμος», δήλωσε ο Ντάνιελ Κάστρο, αντιπρόεδρος του Ιδρύματος Πληροφοριών και Καινοτομίας.
“Πώς δοκιμάζουμε αυτά τα συστήματα; Πώς τα αξιολογούμε; Το να δημιουργηθεί ένας νόμος που να το απαιτεί σε αυτό το σημείο ήταν σίγουρα… το να βάλεις το κάρο μπροστά από το άλογο”, είπε.
Η τελευταία συζήτηση για το SB 1047 είναι μόνο μία από τις πολλές συζητήσεις σχετικά με τον τρόπο ρύθμισης της τεχνητής νοημοσύνης. Η Newsom υπέγραψε μια σειρά από άλλα νομοσχέδια ρυθμίσεων για την τεχνητή νοημοσύνη αυτόν τον μήνα με στόχο την πρόληψη των καταχρήσεων της τεχνητής νοημοσύνης, συμπεριλαμβανομένων των σεξουαλικά ρητά deepfakes. Σε ομοσπονδιακό επίπεδο, υπάρχουν περισσότερα από 100 νομοσχέδια που εισήχθησαν στο Κογκρέσο, τα οποία θα έχουν λιγότερο από δύο μήνες για να εγκρίνουν νομοθεσία όταν επιστρέψουν από τις διακοπές τον Νοέμβριο.
Ο Τζέισον Κόρσο, καθηγητής ρομποτικής, ηλεκτρολόγων μηχανικών και επιστήμης υπολογιστών στο Πανεπιστήμιο του Μίσιγκαν, πρότεινε ότι ένας τρόπος για να ξεκινήσει η διαδικασία ρύθμισης είναι η ενθάρρυνση της τεχνητής νοημοσύνης ανοιχτού κώδικα, που σημαίνει ότι οι προγραμματιστές δημοσιοποιούν τόσο τα μοντέλα όσο και τα δεδομένα που περιέχονται σε αυτά.
«Πιστεύω ότι απαιτεί προθυμία να μοιραστούμε όχι μόνο τα μοντέλα που προκύπτουν, αλλά και τα δεδομένα που περιέχονται σε αυτά, ώστε να κατανοήσουμε καλύτερα αυτές τις σχέσεις», δήλωσε ο Corso, ο οποίος είναι επίσης συνιδρυτής και Διευθύνων Σύμβουλος της startup Voxel51 για την όραση υπολογιστών.
«Απαιτεί την ανάγκη για ακόμη καλύτερα εργαλεία για την ανάλυση μοντέλων και την ανάλυση συνόλων δεδομένων, και ελπίζω να δω έναν μηχανισμό ασφάλειας με γνώμονα την κοινότητα χωρίς την ανάγκη ύπαρξης κυβερνητικού μηχανισμού. Αλλά υποψιάζομαι ότι θα υπάρξει περαιτέρω νομοθεσία στο μέλλον εάν η κοινότητα δεν είναι σε θέση να το κάνει αυτό».
«Αυτό είναι ένα φιλόδοξο νομοσχέδιο και δεν θα είχε λειτουργήσει», είπε ο Matt Calkins, συνιδρυτής και διευθύνων σύμβουλος της εταιρείας υπολογιστών cloud και λογισμικού Appian. «Και για να αποκτήσουμε αποτελεσματική νομοθεσία, πρέπει πρώτα να κατανοήσουμε την τεχνητή νοημοσύνη σε όλη την κοινωνία μας, πρέπει να καταλάβουμε τι είναι αυτή η τεχνολογία, τι μπορείτε να περιμένετε από αυτήν, ποια είναι τα όριά της και έτσι χρειαζόμαστε απλώς περισσότερες πληροφορίες. Χρειαζόμαστε διαφάνεια. Θα ξεκινούσα από εκεί».
