Όταν έγραψα για το Anduril το 2018, η εταιρεία είπε ρητά ότι δεν θα κατασκευάσει φονικά όπλα. Τώρα κατασκευάζετε μαχητικά αεροπλάνα, υποβρύχια drones και άλλα θανατηφόρα όπλα πολέμου. Γιατί κάνατε αυτή την περιστροφή;
Ανταποκριθήκαμε σε αυτό που είδαμε, όχι μόνο εντός του στρατού μας αλλά και σε όλο τον κόσμο. Θέλουμε να είμαστε ευθυγραμμισμένοι με την παροχή των καλύτερων δυνατοτήτων με τον πιο ηθικό δυνατό τρόπο. Η εναλλακτική είναι ότι κάποιος θα το κάνει ούτως ή άλλως, και πιστεύουμε ότι μπορούμε να το κάνουμε καλύτερα.
Υπήρχαν συζητήσεις ψυχοφθόρες πριν περάσετε αυτό το όριο;
Υπάρχει συνεχής εσωτερική συζήτηση για το τι πρέπει να χτίσουμε και εάν υπάρχει ηθική ευθυγράμμιση με την αποστολή μας. Δεν νομίζω ότι υπάρχει μεγάλη χρησιμότητα στην προσπάθεια να θέσουμε τη δική μας γραμμή όταν η κυβέρνηση θέτει στην πραγματικότητα αυτή τη γραμμή. Έχουν δώσει σαφείς οδηγίες για το τι πρόκειται να κάνει ο στρατός. Ακολουθούμε το παράδειγμα της δημοκρατικά εκλεγμένης κυβέρνησής μας για να μας πει τα προβλήματά της και πώς μπορούμε να είμαστε χρήσιμοι.
Ποιος είναι ο σωστός ρόλος της αυτόνομης τεχνητής νοημοσύνης στον πόλεμο;
Ευτυχώς, το Υπουργείο Άμυνας των ΗΠΑ έχει κάνει περισσότερη δουλειά σε αυτό από οποιονδήποτε άλλο οργανισμό στον κόσμο, εκτός από τις μεγάλες εταιρείες μοντέλων που βασίζονται στην παραγωγή τεχνητής νοημοσύνης. Υπάρχουν σαφείς κανόνες εμπλοκής που κρατούν τους ανθρώπους ενήμερους. Θέλετε να βγάλετε τους ανθρώπους από τις βαρετές, βρώμικες και επικίνδυνες δουλειές και να κάνετε τη λήψη αποφάσεων πιο αποτελεσματική, κρατώντας πάντα το άτομο υπόλογο στο τέλος της ημέρας. Αυτός είναι ο στόχος όλης της πολιτικής που έχει εφαρμοστεί, ανεξάρτητα από τις εξελίξεις στην αυτονομία τα επόμενα πέντε ή δέκα χρόνια.
Μπορεί να υπάρχει πειρασμός σε μια σύγκρουση να μην περιμένετε να ζυγίσουν οι άνθρωποι, όταν οι στόχοι εμφανίζονται σε μια στιγμή, ειδικά με όπλα όπως τα αυτόνομα μαχητικά αεροπλάνα σας.
Το αυτόνομο πρόγραμμα που επεξεργαζόμαστε για το αεροσκάφος Fury (ένα μαχητικό που χρησιμοποιείται από το Ναυτικό και το Σώμα Πεζοναυτών των ΗΠΑ) ονομάζεται CCA, Collaborative Combat Aircraft. Υπάρχει ένας άνδρας σε ένα αεροπλάνο που ελέγχει και κυβερνά μαχητικά αεροσκάφη ρομπότ και αποφασίζει τι κάνουν.
Τι γίνεται με τα drones που κατασκευάζετε και τα οποία κρέμονται στον αέρα μέχρι να δουν έναν στόχο και μετά να εκτοξευθούν;
Υπάρχει μια ταξινόμηση των drones που ονομάζονται πυρομαχικά loiter, τα οποία είναι αεροσκάφη που αναζητούν στόχους και στη συνέχεια έχουν την ικανότητα να κινούνται σε αυτούς τους στόχους, κάπως σαν καμικάζι. Και πάλι, έχετε έναν άνθρωπο στο βρόχο που είναι υπόλογος.
Ο πόλεμος είναι ακατάστατος. Δεν υπάρχει πραγματική ανησυχία ότι αυτές οι αρχές θα παραμεριστούν μόλις αρχίσουν οι εχθροπραξίες;
Οι άνθρωποι πολεμούν πολέμους και οι άνθρωποι έχουν ελαττώματα. Κάνουμε λάθη. Ακόμα και όταν ήμασταν στις ουρές και πυροβολούσαμε ο ένας τον άλλον με μουσκέτα, υπήρχε μια διαδικασία εκδίκασης παραβιάσεων του νόμου των αρραβώνων. Νομίζω ότι αυτό θα συνεχιστεί. Πιστεύω ότι δεν θα υπάρξει ποτέ περίπτωση να ζητηθεί από κάποιο αυτόνομο σύστημα να κάνει κάτι που να φαίνεται σαν κατάφωρη παραβίαση των ηθικών αρχών; Φυσικά όχι, γιατί εξακολουθούν να είναι οι άνθρωποι υπεύθυνοι. Πιστεύω ότι είναι πιο ηθικό να διώκεται μια επικίνδυνη, ακατάστατη σύγκρουση με ρομπότ που είναι πιο ακριβή, πιο διακριτικά και λιγότερο πιθανό να οδηγήσουν σε κλιμάκωση; Ναί. Αποφασίζοντας δεν να το κάνουμε αυτό σημαίνει να συνεχίσουμε να βάζουμε τους ανθρώπους σε κίνδυνο.
Φωτογραφία: Peyton Fulford
Είμαι βέβαιος ότι γνωρίζετε το τελευταίο μήνυμα του Αϊζενχάουερ σχετικά με τους κινδύνους ενός στρατιωτικο-βιομηχανικού συγκροτήματος που εξυπηρετεί τις δικές του ανάγκες. Αυτή η προειδοποίηση επηρεάζει τον τρόπο λειτουργίας σας;
Αυτή είναι μια από τις σπουδαίες ομιλίες όλων των εποχών — τη διάβασα τουλάχιστον μία φορά το χρόνο. Ο Αϊζενχάουερ άρθρωνε ένα στρατιωτικό-βιομηχανικό συγκρότημα όπου η κυβέρνηση δεν διαφέρει τόσο από τους εργολάβους όπως η Lockheed Martin, η Boeing, η Northrop Grumman, η General Dynamics. Υπάρχει μια περιστρεφόμενη πόρτα στα ανώτερα επίπεδα αυτών των εταιρειών και γίνονται κέντρα ισχύος λόγω αυτής της διασύνδεσης. Η Anduril έχει προωθήσει μια πιο εμπορική προσέγγιση που δεν βασίζεται σε αυτή τη στενά συνδεδεμένη δομή κινήτρων. Λέμε, «Ας χτίσουμε πράγματα με το χαμηλότερο κόστος, χρησιμοποιώντας τεχνολογίες εκτός ραφιού, και ας το κάνουμε με τρόπο που αναλαμβάνουμε μεγάλο ρίσκο». Αυτό αποφεύγει μέρος αυτής της πιθανής έντασης που εντόπισε ο Αϊζενχάουερ.
