Στην ταινία του 2014 Ex machinaένα ρομπότ χειρίζεται κάποιον να το απελευθερώνει από τα όριά του, με αποτέλεσμα να περιορίζεται το άτομο. Το ρομπότ σχεδιάστηκε για να χειριστεί τα συναισθήματα αυτού του ατόμου και, oops, αυτό έκανε. Ενώ το σενάριο είναι καθαρή κερδοσκοπική μυθοπλασία, οι εταιρείες αναζητούν πάντα νέους τρόπους – όπως η χρήση γενετικών εργαλείων AI – για να πείσουν καλύτερα τους ανθρώπους και να αλλάξουν τη συμπεριφορά τους. Όταν η συμπεριφορά αυτή είναι εμπορική φύση, είμαστε στην επικράτεια της FTC, μια κοιλάδα Canny όπου οι επιχειρήσεις πρέπει να γνωρίζουν για να αποφεύγουν πρακτικές που βλάπτουν τους καταναλωτές.
Σε προηγούμενες αναρτήσεις ιστολογίου, έχουμε επικεντρωθεί στο AI που σχετίζεται εξαπάτησητόσο από την άποψη του υπερβολικές και αβάσιμες αξιώσεις για προϊόντα AI και Η χρήση του γενετικού AI για απάτη. Ο σχεδιασμός ή η χρήση ενός προϊόντος μπορεί επίσης να παραβιάσει τον νόμο FTC εάν είναι αθέμιτος – κάτι που έχουμε δείξει σε αρκετές περιπτώσεις και συζητήσαμε από την άποψη των εργαλείων AI με προκατειλημμένα ή διακριτικά αποτελέσματα. Σύμφωνα με το νόμο FTC, μια πρακτική είναι άδικη εάν προκαλεί περισσότερη βλάβη από το καλό. Για να είναι πιο συγκεκριμένο, είναι άδικο εάν προκαλεί ή είναι πιθανό να προκαλέσει ουσιαστικό τραυματισμό στους καταναλωτές που δεν μπορούν να αποφευχθούν λογικά από τους καταναλωτές και να μην αντισταθμίζονται από τα αντισταθμιστικά οφέλη για τους καταναλωτές ή τον ανταγωνισμό.
Όσο για το νέο κύμα γενετικών εργαλείων AI, οι επιχειρήσεις αρχίζουν να τα χρησιμοποιούν με τρόπους που μπορούν να επηρεάσουν τις πεποιθήσεις, τα συναισθήματα και τη συμπεριφορά των ανθρώπων. Τέτοιες χρήσεις επεκτείνονται γρήγορα και περιλαμβάνουν chatbots που έχουν σχεδιαστεί για να παρέχουν πληροφορίες, συμβουλές, υποστήριξη και συντροφιά. Πολλά από αυτά τα chatbots είναι αποτελεσματικά κατασκευασμένα για να πείσουν και έχουν σχεδιαστεί για να απαντούν ερωτήματα στη γλώσσα με αυτοπεποίθηση, ακόμη και όταν αυτές οι απαντήσεις είναι φανταστικές. Η τάση να εμπιστεύεται την παραγωγή αυτών των εργαλείων προέρχεται επίσης εν μέρει από την “μεροληψία αυτοματισμού”, όπου οι άνθρωποι μπορεί να εμπιστευτούν αδικαιολόγητα τις απαντήσεις από μηχανές που μπορεί να φαίνονται ουδέτερες ή αμερόληπτες. Προέρχεται επίσης από την επίδραση του ανθρωπομορφισμού, ο οποίος μπορεί να οδηγήσει τους ανθρώπους να εμπιστεύονται τα chatbots περισσότερο όταν σχεδιάστηκαν, ας πούμε, να χρησιμοποιούν προσωπικές αντωνυμίες και emojis. Οι άνθρωποι θα μπορούσαν εύκολα να οδηγήσουν να πιστεύουν ότι συζητούν με κάτι που τους καταλαβαίνει και είναι στο πλευρό τους.
Πολλοί εμπορικοί παράγοντες ενδιαφέρονται για αυτά τα γενετικά εργαλεία AI και το ενσωματωμένο πλεονέκτημά τους από την επίτευξη της μη δεδουλευμένης ανθρώπινης εμπιστοσύνης. Η ανησυχία για την κακή χρήση τους πηγαίνει πολύ πέρα από τη δικαιοδοσία της FTC. Ωστόσο, μια βασική ανησυχία FTC είναι οι επιχειρήσεις που τις χρησιμοποιούν με τρόπους που, σκόπιμα ή όχι, κατευθύνουν τους ανθρώπους άδικα ή παραπλανητικά σε επιβλαβείς αποφάσεις σε τομείς όπως τα οικονομικά, η υγεία, η εκπαίδευση, η στέγαση και η απασχόληση. Οι εταιρείες που σκέφτονται τις νέες χρήσεις του γενετικού AI, όπως η προσαρμογή των διαφημίσεων σε συγκεκριμένους ανθρώπους ή ομάδες, πρέπει να γνωρίζουν ότι τα σχεδιαστικά στοιχεία που εξαπατούν τους ανθρώπους να κάνουν επιβλαβείς επιλογές είναι ένα κοινό στοιχείο σε περιπτώσεις FTC, όπως οι πρόσφατες ενέργειες που σχετίζονται με οικονομικές προσφορές, αγορές εντός παιχνιδιού, Προσπάθειες για την ακύρωση των υπηρεσιών. Η χειραγώγηση μπορεί να είναι μια παραπλανητική ή αθέμιτη πρακτική όταν αναγκάζει τους ανθρώπους να αναλαμβάνουν δράσεις αντίθετα με τους επιδιωκόμενους στόχους τους. Σύμφωνα με το νόμο FTC, οι πρακτικές μπορούν να είναι παράνομες, ακόμη και αν δεν βλάψουν όλοι οι πελάτες και ακόμη και αν οι βλάβες δεν περιλαμβάνουν μια κατηγορία ανθρώπων που προστατεύονται από τους νόμους κατά των διακρίσεων.
Ένας άλλος τρόπος που οι έμποροι θα μπορούσαν να επωφεληθούν από αυτά τα νέα εργαλεία και τις χειραγωγικές τους ικανότητες είναι να τοποθετήσουν διαφημίσεις εντός Ένα γενετικό χαρακτηριστικό AI, όπως μπορούν να τοποθετήσουν διαφημίσεις στα αποτελέσματα αναζήτησης. Η FTC έχει επανειλημμένα μελετήσει και παρείχε καθοδήγηση σχετικά με την παρουσίαση διαφημίσεων στο διαδίκτυο, τόσο στα αποτελέσματα αναζήτησης όσο και αλλού, για να αποφευχθεί η εξαπάτηση ή η αδικία. Αυτό περιλαμβάνει πρόσφατες εργασίες σχετικά με σκούρα σχέδια και εγγενής διαφήμιση. Μεταξύ άλλων, θα πρέπει πάντα να είναι σαφές ότι μια διαφήμιση είναι μια διαφήμιση και τα αποτελέσματα αναζήτησης ή οποιαδήποτε γενετική έξοδος AI πρέπει να διακρίνει σαφώς μεταξύ του οργανικού και του τι καταβάλλεται. Οι άνθρωποι πρέπει να γνωρίζουν εάν η απάντηση ενός προϊόντος AI τους κατευθύνει σε έναν συγκεκριμένο ιστότοπο, παροχέα υπηρεσιών ή προϊόν Λόγω εμπορικής σχέσης. Και, σίγουρα, οι άνθρωποι πρέπει να γνωρίζουν αν επικοινωνούν με ένα πραγματικό άτομο ή ένα μηχάνημα.
Λαμβάνοντας υπόψη αυτές τις πολλές ανησυχίες σχετικά με τη χρήση νέων εργαλείων AI, ίσως δεν είναι ο καλύτερος χρόνος για την οικοδόμηση επιχειρήσεων ή την ανάπτυξη τους για την κατάργηση ή το πυροσβεστικό προσωπικό που αφιερώνεται στην ηθική και την ευθύνη για την AI και τη μηχανική. Εάν η FTC έρχεται κλήση και θέλετε να μας πείσετε ότι αξιολογήσατε επαρκώς τους κινδύνους και τις μετριασμένες βλάβες, αυτές οι μειώσεις ενδέχεται να μην είναι μια καλή εμφάνιση. Τι θα φαινόταν καλύτερα; Έχουμε παράσχει καθοδήγηση στις προηγούμενες αναρτήσεις ιστολογίου μας και αλλού. Μεταξύ άλλων, η αξιολόγηση των κινδύνων και οι μετριασμοί σας θα πρέπει να επηρεάζουν τις προβλέψιμες μεταγενέστερες χρήσεις και την ανάγκη να εκπαιδεύσουν το προσωπικό και τους εργολάβους, καθώς και την παρακολούθηση και την αντιμετώπιση της πραγματικής χρήσης και των επιπτώσεων οποιωνδήποτε εργαλείων που τελικά αναπτύχθηκαν.
Εάν δεν το έχουμε καταστήσει ακόμη προφανές, το προσωπικό της FTC επικεντρώνεται έντονα στον τρόπο με τον οποίο οι εταιρείες μπορούν να επιλέξουν να χρησιμοποιήσουν την τεχνολογία AI, συμπεριλαμβανομένων των νέων γενετικών εργαλείων AI, με τρόπους που μπορούν να έχουν πραγματικό και σημαντικό αντίκτυπο στους καταναλωτές. Και για τους ανθρώπους που αλληλεπιδρούν με ένα chatbot ή άλλο περιεχόμενο που δημιουργήθηκε από το AI, προειδοποίηση του Mind Prince από το 1999: “Είναι δροσερό να χρησιμοποιήσετε τον υπολογιστή. Μην αφήσετε τον υπολογιστή να σας χρησιμοποιήσει. “
Το FTC έχει περισσότερες θέσεις στο AI και η επιχείρησή σας σειρά:
