Φωνητικά μηνύματα με τις φωνές των νεκρών παιδιών μέσω AI στις ΗΠΑ

Οι γονείς ενός εφήβου που σκοτώθηκε από τους πυροβολισμούς στο σχολείο Parkland της Φλόριντα το 2018 ξεκίνησαν ένα νέο θαρραλέο σχέδιο με την ονομασία The Shotline για να πιέσουν για αυστηρότερους νόμους περί όπλων στη χώρα. Το The Shotline χρησιμοποιεί AI για να αναδημιουργήσει τις φωνές των παιδιών που σκοτώθηκαν από την οπλοκατοχή και να στείλει τις ηχογραφήσεις μέσω αυτοματοποιημένων κλήσεων στους νομοθέτες, ανέφερε η Wall Street Journal.

Το πρόγραμμα ξεκίνησε να υλοποιείται την περασμένη Τετάρτη, έξι χρόνια αφότου ένας ένοπλος σκότωσε 17 ανθρώπους και τραυμάτισε περισσότερους από δώδεκα σε λύκειο στο Parkland της Φλόριντα. Σε αυτό ακούγεται η φωνή έξι παιδιών, ορισμένα μόλις δέκα ετών, και νεαρών ενηλίκων, που έχασαν τη ζωή τους σε περιστατικά ένοπλης βίας στις ΗΠΑ. Μόλις πληκτρολογήσετε τον ταχυδρομικό σας κώδικα, το The Shotline βρίσκει τον τοπικό σας αντιπρόσωπο και σας επιτρέπει να κάνετε μια αυτοματοποιημένη κλήση από έναν από τους έξι νεκρούς με τη δική τους φωνή, προτρέποντας για αυστηρότερους νόμους για τον έλεγχο της οπλοκατοχής.

“Είμαι πίσω σήμερα επειδή οι γονείς μου χρησιμοποίησαν Τεχνητή Νοημοσύνη για να αναδημιουργήσουν τη φωνή μου για να σας καλέσουν“, λέει η φωνή που δημιουργήθηκε του Joaquin Oliver, ενός από τους εφήβους που σκοτώθηκαν στους πυροβολισμούς στο Parkland, από Τεχνητή Νοημοσύνη. “Και άλλα θύματα σαν εμένα θα τηλεφωνήσουν επίσης“. Κατά τη στιγμή της δημοσίευσης, περισσότερες από 8.000 κλήσεις AI είχαν υποβληθεί στους νομοθέτες μέσω της ιστοσελίδας.

“Αυτό είναι πρόβλημα των ΗΠΑ και δεν έχουμε καταφέρει να το διορθώσουμε”, δήλωσε στην εφημερίδα ο πατέρας του Oliver, Manuel, ο οποίος ξεκίνησε το πρόγραμμα μαζί με τη σύζυγό του Patricia. “Αν πρέπει να χρησιμοποιήσουμε ανατριχιαστικά πράγματα για να το διορθώσουμε, τότε καλωσορίσατε”.

Για την αναδημιουργία των φωνών, η οικογένεια του Oliver χρησιμοποίησε μια υπηρεσία κλωνοποίησης φωνής από την ElevenLabs, μια startup δύο ετών που πρόσφατα συγκέντρωσε 80 εκατομμύρια δολάρια σε έναν γύρο χρηματοδότησης με επικεφαλής τον Andreessen Horowitz. Χρησιμοποιώντας μόλις λίγα λεπτά φωνητικών δειγμάτων, το λογισμικό είναι σε θέση να αναδημιουργήσει φωνές σε περισσότερες από δύο δωδεκάδες γλώσσες.

Οι Olivers φέρεται να χρησιμοποίησαν τις αναρτήσεις του γιου τους στα μέσα κοινωνικής δικτύωσης για τα δείγματα φωνής του. Οι γονείς και οι νόμιμοι κηδεμόνες των θυμάτων ένοπλης βίας μπορούν να συμπληρώσουν μια φόρμα για να υποβάλουν τις φωνές τους στο The Shotline για να προστεθούν στο αποθετήριο των φωνών που δημιουργούνται από Τεχνητή Νοημοσύνη.

Το έργο εγείρει ηθικά ερωτήματα σχετικά με τη χρήση της Τεχνητής Νοημοσύνης για τη δημιουργία deepfakes φωνών που ανήκουν σε νεκρούς ανθρώπους. Την περασμένη εβδομάδα, η Federal Communications Commission (FCC) κήρυξε παράνομες τις ρομποτικές κλήσεις που γίνονται με φωνές που παράγονται από Τεχνητή Νοημοσύνη, μια απόφαση που ελήφθη λίγες εβδομάδες μετά τις κλήσεις που δέχθηκαν ψηφοφόροι στο New Hampshire, οι οποίες μιμούνταν τον πρόεδρο Joe Biden και τους έλεγαν να μην ψηφίσουν στις προκριματικές εκλογές της πολιτείας τους. Μια ανάλυση από την εταιρεία ασφαλείας που ονομάζεται Pindrop αποκάλυψε ότι η ηχητική απομίμηση του Μπάιντεν δημιουργήθηκε με τη χρήση λογισμικού της ElevenLabs.

Ο συνιδρυτής της εταιρείας Mati Staniszewski δήλωσε στην Journal ότι η ElevenLabs επιτρέπει στους ανθρώπους να αναδημιουργήσουν τις φωνές νεκρών συγγενών, εφόσον έχουν τα δικαιώματα και τις άδειες.

[via]