Ο κυβερνήτης Gavin Newsom την Κυριακή άσκησε βέτο στο SB 1047, ένα νομοσχέδιο για την ασφάλεια της τεχνητής νοημοσύνης που θα καθόριζε απαιτήσεις για τους προγραμματιστές προηγμένων μοντέλων τεχνητής νοημοσύνης να δημιουργήσουν πρωτόκολλα με στόχο την πρόληψη καταστροφών.
Το νομοσχέδιο, που εισήχθη από τον γερουσιαστή Scott Wiener (D-San Francisco), θα απαιτούσε από τους προγραμματιστές να υποβάλουν τα σχέδια ασφαλείας τους στον γενικό εισαγγελέα, ο οποίος θα μπορούσε να τους θεωρήσει υπεύθυνους εάν τα μοντέλα τεχνητής νοημοσύνης που ελέγχουν άμεσα προκαλούσαν βλάβη ή επικείμενες απειλές δημόσια ασφάλεια.
Επιπλέον, η νομοθεσία θα απαιτούσε από τις εταιρείες τεχνολογίας να μπορούν να απενεργοποιούν τα μοντέλα τεχνητής νοημοσύνης που ελέγχουν άμεσα, εάν τα πράγματα πήγαιναν στραβά.
Στο μήνυμά του για το βέτο, ο Newsom είπε ότι η νομοθεσία θα μπορούσε να δώσει στο κοινό μια «ψευδή αίσθηση ασφάλειας σχετικά με τον έλεγχο αυτής της ταχέως εξελισσόμενης τεχνολογίας», επειδή στόχευε μόνο μεγάλης κλίμακας και ακριβά μοντέλα τεχνητής νοημοσύνης και όχι μικρότερα, εξειδικευμένα συστήματα.
«Αν και έχει καλές προθέσεις, το SB 1047 δεν λαμβάνει υπόψη εάν ένα σύστημα τεχνητής νοημοσύνης αναπτύσσεται σε περιβάλλοντα υψηλού κινδύνου, περιλαμβάνει λήψη κρίσιμων αποφάσεων ή χρήση ευαίσθητων δεδομένων», ανέφερε το μήνυμα βέτο του Newsom. «Αντίθετα, το νομοσχέδιο εφαρμόζει αυστηρά πρότυπα ακόμη και για τις πιο βασικές λειτουργίες — εφόσον το χρησιμοποιεί ένα μεγάλο σύστημα. Δεν πιστεύω ότι αυτή είναι η καλύτερη προσέγγιση για την προστασία του κοινού από πραγματικές απειλές που θέτει η τεχνολογία».
Ο κυβερνήτης ανακοίνωσε επίσης την Κυριακή ότι η κυβέρνησή του έχει επιστρατεύσει ηγέτες στον τομέα για να βοηθήσει το κράτος να δημιουργήσει λειτουργικές προστασίες για την ανάπτυξη της τεχνητής νοημοσύνης, εστιάζοντας στην ανάλυση των δυνατοτήτων και των κινδύνων του. Ο Newsom υποσχέθηκε να συνεχίσει να συνεργάζεται με το Νομοθετικό Σώμα για το θέμα την επόμενη συνεδρίαση.
Το νομοσχέδιο συζητήθηκε έντονα στη Silicon Valley, λαμβάνοντας υποστήριξη από το Κέντρο για την ασφάλεια της τεχνητής νοημοσύνης, τον διευθύνοντα σύμβουλο της SpaceX, Elon Musk, τη συντακτική επιτροπή των LA Times και εξέχοντες ερευνητές της τεχνητής νοημοσύνης, αλλά αντιτάχθηκαν από τη μητρική εταιρεία του Facebook Meta, τον κατασκευαστή ChatGPT OpenAI και αρκετούς Δημοκρατικούς βουλευτές. συμπεριλαμβανομένης της αντιπροσώπου Nancy Pelosi (D-San Francisco).
Οι υποστηρικτές είπαν ότι είναι σημαντικό να τεθούν προστατευτικά κιγκλιδώματα για την ταχέως εξελισσόμενη τεχνολογία AI για την πρόληψη μελλοντικών καταστροφικών βλαβών, ενώ οι αντίπαλοι είπαν ότι τέτοια μέτρα θα μπορούσαν να καταπνίξουν την καινοτομία.
Ενώ είναι δυνατό ένα νομοσχέδιο να ξεπεράσει το βέτο του κυβερνήτη με ψήφους δύο τρίτων και από τα δύο σώματα, είναι ένα σημαντικό εμπόδιο που πρέπει να ξεπεραστεί και θα ήταν ασυνήθιστο.
Ο Wiener χαρακτήρισε το βέτο του Newsom «χαμένη ευκαιρία» για την Καλιφόρνια να ηγηθεί σε καινοτόμους τεχνολογικούς κανονισμούς.
«Αυτό το βέτο αποτελεί οπισθοδρόμηση για όλους όσοι πιστεύουν στην επίβλεψη τεράστιων εταιρειών που λαμβάνουν κρίσιμες αποφάσεις που επηρεάζουν την ασφάλεια και την ευημερία του κοινού και το μέλλον του πλανήτη», δήλωσε ο Wiener σε δήλωση που αναρτήθηκε στα μέσα κοινωνικής δικτύωσης.
Ο Newsom είπε νωρίτερα αυτό το μήνα σε μια συνομιλία δίπλα στο πυρά στο Dreamforce, ένα τεχνολογικό συνέδριο του Σαν Φρανσίσκο, ότι το SB 1047 είχε δημιουργήσει μεγάλο δημόσιο διάλογο, προσθέτοντας ότι «δημιούργησε το δικό του σύστημα καιρού».
Μίλησε επίσης για τις προκλήσεις στη ρύθμιση της τεχνητής νοημοσύνης.
«Εργαζόμαστε τα τελευταία δύο χρόνια για να καταλήξουμε σε κάποια ορθολογική ρύθμιση που να υποστηρίζει την ανάληψη κινδύνων, αλλά όχι την απερισκεψία…», είπε ο Newsom.
Οι υποστηρικτές και οι αντίπαλοι του SB 1047 συγκέντρωσαν πόρους για να εκφράσουν τις απόψεις τους. Περισσότεροι από 125 ηθοποιοί, παραγωγοί, σκηνοθέτες, καλλιτέχνες της μουσικής και άλλοι ηγέτες της βιομηχανίας του θεάματος, συμπεριλαμβανομένων διακεκριμένων Δημοκρατικών, υπέγραψαν επιστολή καλώντας τον Newsom να υπογράψει το νομοσχέδιο. Οι υπογράφοντες της επιστολής περιελάμβαναν τους ηθοποιούς Pedro Pascal και Alec Baldwin, καθώς και την εκτελεστική παραγωγό του “Bridgerton”, Shonda Rhimes.
«Θέλουμε να συνεχίσουμε να πιστεύουμε ότι είστε ένας ηγέτης που θα υπερασπιστεί την ευημερία όλων, όχι μόνο για μερικούς γίγαντες της Silicon Valley», ανέφερε η επιστολή.
Εν τω μεταξύ, το Chamber of Progress, το οποίο αντιτίθεται στο νομοσχέδιο, κυκλοφόρησε ένα ροκ τραγούδι που δημιουργήθηκε από την τεχνητή νοημοσύνη με στίχους που περιλαμβάνουν «βέτο στις αλυσίδες που μας κρατούν κάτω».
«Είναι ένας από εκείνους τους λογαριασμούς που συναντώνται σπάνια στο γραφείο σας, όπου εξαρτάται από το ποιος ήταν ο τελευταίος στην κλήση όσον αφορά το πόσο πειστικός είναι», είπε ο Newsom σε συνέντευξή του στους Times νωρίτερα αυτό το μήνα. «Έχει διχαστεί τόσοι πολλοί άνθρωποι».
