Η O2, ο μεγαλύτερος πάροχος υπηρεσιών κινητής τηλεφωνίας του Ηνωμένου Βασιλείου, έχει αναπτύξει ένα voice-based AI chatbot με σκοπό να παρασύρει τους τηλεφωνικούς απατεώνες σε περιπλανώμενες, άκαρπες συνομιλίες. Με την ονομασία dAIsy, το chatbot μιμείται τη φωνή ενός ηλικιωμένου ατόμου, τον πιο κοινό στόχο αυτών που πραγματοποιούν τηλεφωνικές απάτες.
Ο σκοπός του dAIsy είναι να αυτοματοποιήσει το «scambaiting», ή την πρακτική της σκόπιμης σπατάλης του χρόνου των τηλεφωνικών απατεώνων για να τους κρατήσει μακριά από τα πιθανά πραγματικά θύματα όσο το δυνατόν περισσότερο. Οι απατεώνες χρησιμοποιούν την κοινωνική μηχανική για να εκμεταλλευτούν την αφέλεια των ηλικιωμένων, πείθοντάς τους, για παράδειγμα, ότι χρωστούν καθυστερημένους φόρους και ότι πρόκειται να συλληφθούν αν δεν εμβάσουν αμέσως χρήματα.
Όταν όμως ένας απατεώνας παίρνει την Daisy στο τηλέφωνο, είναι έτοιμος για μια μακρά συζήτηση που τελικά δεν θα οδηγήσει πουθενά. Αν φτάσουν στο σημείο όπου ο απατεώνας ζητά προσωπικές πληροφορίες, όπως τραπεζικά στοιχεία, η Daisy θα επινοήσει ψεύτικες πληροφορίες. Η O2 λέει ότι είναι σε θέση να προσεγγίσει τους απατεώνες από την πρώτη στιγμή, προσθέτοντας έναν αριθμό τηλεφώνου της Daisy σε λίστες «εύκολων στόχων» που χρησιμοποιούν οι απατεώνες για να βρουν στοιχεία.
Σε ένα video που παρουσιάζει την Daisy, αποσπάσματα από πραγματικές συνομιλίες δείχνουν τους απατεώνες να εξοργίζονται όλο και περισσότερο, να παραμένουν στο τηλέφωνο για πάνω από 40 λεπτά και να ελπίζουν ότι θα πάρουν έναν αριθμό πιστωτικής κάρτας ή τραπεζικά στοιχεία. Το AI μοντέλο που έφτιαξε η O2 ακούγεται πολύ πειστικό, κάνει όλη την επεξεργασία σε πραγματικό χρόνο και μιμείται άψογα τους συνήθεις αργούς ρυθμούς ομιλίας των ηλικιωμένων.
Βέβαια, η ανησυχία με ένα chatbot όπως η Daisy είναι ότι η ίδια τεχνολογία μπορεί να χρησιμοποιηθεί για αντίθετους σκοπούς. Έχουμε ήδη δει περιπτώσεις όπου πραγματικοί άνθρωποι, όπως οι CEOs μεγάλων εταιρειών, είδαν deepfakes των φωνών τους προκειμένου να εξαπατηθούν άλλοι για να στείλουν χρήματα σε έναν απατεώνα. Οι ηλικιωμένοι είναι ήδη αρκετά ευάλωτοι. Αν δεχτούν ένα τηλεφώνημα από κάποιον που ακούγεται σαν εγγόνι τους, είναι σχεδόν βέβαιο ότι θα πιστέψουν ότι είναι αληθινό.
Ενδεχομένως, ο αποκλεισμός των δόλιων κλήσεων και το κλείσιμο των οργανισμών που διαχειρίζονται αυτές τις απάτες θα ήταν η ιδανική λύση. Οι πάροχοι έχουν βελτιωθεί στον εντοπισμό των απατεώνων και στο μπλοκάρισμα των αριθμών τους, αλλά παραμένει ένα παιχνίδι γάτας και ποντικιού. Οι απατεώνες εκμεταλλεύονται τα αυτοματοποιημένα εργαλεία κλήσης που τους επιτρέπουν να καλούν αριθμούς με ταχεία διαδοχή και ειδοποιούνται από το εργαλείο μόνο όταν λαμβάνουν απάντηση. Πάντως, ένα AI chatbot που απογοητεύει τους απατεώνες απαντώντας και σπαταλώντας τον χρόνο τους είναι καλύτερο από το τίποτα.
[via]
