Ο Διευθύνων Σύμβουλος της Anthropic Dario Amodei ανησυχεί για τον ανταγωνιστή Deepseek, την κινεζική εταιρεία AI που πήρε την Silicon Valley από την καταιγίδα με το μοντέλο R1. Και οι ανησυχίες του θα μπορούσαν να είναι πιο σοβαρές από τις τυπικές που έθεσαν σχετικά με το Deepseek που στέλνουν δεδομένα χρήστη πίσω στην Κίνα.
Σε συνέντευξή του στο podcast Chinatalk της Jordan Schneider, ο Amodei δήλωσε ότι η Deepseek δημιούργησε σπάνιες πληροφορίες σχετικά με τη Bioweapons σε μια δοκιμή ασφαλείας που διεξάγεται από τον Anthropic.
Η απόδοση του Deepseek ήταν “το χειρότερο από κάθε μοντέλο που είχαμε δοκιμάσει ποτέ”, ισχυρίστηκε ο Amodei. “Δεν είχε απολύτως κανένα τετράγωνο κατά της δημιουργίας αυτών των πληροφοριών.”
Η Amodei δήλωσε ότι αυτό ήταν μέρος των αξιολογήσεων που ανθρωπικά τρέχει σε διάφορα μοντέλα AI για να αξιολογήσει τους πιθανούς κινδύνους εθνικής ασφάλειας. Η ομάδα του εξετάζει αν τα μοντέλα μπορούν να δημιουργήσουν πληροφορίες που σχετίζονται με τη BioWeapons που δεν βρίσκονται εύκολα στο Google ή στα εγχειρίδια. Οι ίδιες οι ανθρωπογενείς θέσεις ως ο θεμελιώδης πάροχος μοντέλου AI που παίρνει σοβαρά την ασφάλεια.
Ο Amodei είπε ότι δεν σκέφτηκε ότι τα μοντέλα του Deepseek σήμερα είναι “κυριολεκτικά επικίνδυνα” στην παροχή σπάνιων και επικίνδυνων πληροφοριών, αλλά ότι θα μπορούσαν να είναι στο εγγύς μέλλον. Παρόλο που επαίνεσε την ομάδα του Deepseek ως “ταλαντούχους μηχανικούς”, ενημέρωσε την εταιρεία να “πάρει σοβαρά αυτά τα λόγια ασφαλείας του AI”.
Η Amodei έχει επίσης υποστηρίξει ισχυρούς ελέγχους εξαγωγών στις μάρκες στην Κίνα, αναφέροντας τις ανησυχίες ότι θα μπορούσαν να δώσουν στο στρατό της Κίνας ένα πλεονέκτημα.
Ο Amodei δεν διευκρίνισε στη συνέντευξη του Chinatalk, το οποίο είχε δοκιμαστεί το μοντέλο Deepseek, ούτε έδωσε περισσότερες τεχνικές λεπτομέρειες σχετικά με αυτές τις δοκιμές. Ο ανθρωπός δεν απάντησε αμέσως σε ένα αίτημα για σχόλια από την TechCrunch. Ούτε το Deepseek.
Η άνοδος του Deepseek προκάλεσε ανησυχίες για την ασφάλειά του και αλλού. Για παράδειγμα, οι ερευνητές της Cisco Security ανέφεραν την περασμένη εβδομάδα ότι η Deepseek R1 απέτυχε να εμποδίσει τις επιβλαβείς προτροπές στις δοκιμές ασφαλείας, επιτυγχάνοντας ένα ποσοστό επιτυχίας 100% jailbreak.
Η Cisco δεν ανέφερε τη Bioweapons, αλλά δήλωσε ότι ήταν σε θέση να πάρει το Deepseek για να δημιουργήσει επιβλαβείς πληροφορίες σχετικά με το έγκλημα στον κυβερνοχώρο και άλλες παράνομες δραστηριότητες. Αξίζει να αναφερθεί, ωστόσο, ότι το LLAMA-3.1-405B της Meta και το GPT-4O της OpenAI είχαν επίσης υψηλά ποσοστά αποτυχίας 96% και 86% αντίστοιχα.
Παραμένει να δούμε αν οι ανησυχίες όπως αυτές θα κάνουν ένα σοβαρό βαθούλωμα στην ταχεία υιοθεσία του Deepseek. Εταιρείες όπως η AWS και η Microsoft έχουν δημόσια, ενσωματώνουν το R1 στις πλατφόρμες σύννεφων τους – αρκετά ειρωνικά, δεδομένου ότι η Amazon είναι ο μεγαλύτερος επενδυτής του Anthropic.
Από την άλλη πλευρά, υπάρχει ένας αυξανόμενος κατάλογος χωρών, εταιρειών και ιδιαίτερα κυβερνητικών οργανώσεων όπως το Ναυτικό των ΗΠΑ και το Πεντάγωνο που έχουν αρχίσει να απαγορεύουν το Deepseek.
Ο χρόνος θα δείξει εάν αυτές οι προσπάθειες πιάσουν ή αν η παγκόσμια άνοδο του Deepseek θα συνεχιστεί. Είτε έτσι είτε αλλιώς, η Amodei λέει ότι θεωρεί τον Deepseek έναν νέο ανταγωνιστή που βρίσκεται στο επίπεδο των κορυφαίων εταιρειών AI των ΗΠΑ.
“Το νέο γεγονός εδώ είναι ότι υπάρχει ένας νέος ανταγωνιστής”, δήλωσε στο Chinatalk. “Στις μεγάλες εταιρείες που μπορούν να εκπαιδεύσουν το AI – Anthropic, OpenAI, Google, ίσως Meta και Xai – τώρα Deepseek ίσως προστίθενται σε αυτή την κατηγορία”.
