Deepfake: Ο κίνδυνος και οι ψευδαισθήσεις του ψηφιακού κόσμου

Θα μπορούσε να φανταστεί κανείς τη Μαρία Κάλλας να τραγουδάει Miley Cyrus ή τον Frank Sinatra να τραγουδάει Ed Sheeran; Κι όμως γίνεται!

Σε ένα απλό πείραμα που διεξήχθη από το FT Weekend Podcast των Financial Times, οι ακροατές άκουσαν εμβρόντητοι τον Kurt Cobain να τραγουδάει το “A thousand miles” της Vanessa Carlton και τον Tom Waits να αποδίδει μέσω της χαρακτηριστικής βραχνής φωνής του, με μπρίο παρά ταύτα και τσαχπινιά, την επιτυχία των ABBA «DancingQueen»! Προφανώς, κανένας από τους δύο ουδέποτε τραγούδησε τα συγκεκριμένα τραγούδια. Αντίθετα, τα ηχητικά ντοκουμέντα αποτέλεσαν προϊόντα μιας διάσημης πλατφόρμας τεχνητής νοημοσύνης για τη δημιουργία deepfake φωνών.

Τι είναι το Deepfake;

Το Deepfake αναφέρεται σε μια μορφή συνθετικών μέσων που δημιουργούνται με βοήθεια της τεχνητής νοημοσύνης, ιδιαίτερα αλγόριθμους deep learning. Περιλαμβάνει τη διαμόρφωση ή την αντικατάσταση οπτικού και ακουστικού περιεχομένου σε βίντεο για την κατασκευή πειστικών, αλλά ψευδών αναπαραστάσεων γεγονότων ή ατόμων. Την τελευταία πενταετία η τεχνολογία deepfake έχει προχωρήσει με ραγδαίους ρυθμούς, επιτρέποντας τη δημιουργία εξαιρετικά ρεαλιστικού περιεχομένου πολυμέσων, όπου οι άνθρωποι φαίνεται να λένε ή να κάνουν πράγματα που στην πραγματικότητα δεν έκαναν ποτέ. Αυτό το περιεχόμενο μπορεί να περιλαμβάνει την αντικατάσταση προσώπων ή φωνών με εκείνα άλλων ατόμων, την αλλαγή των εκφράσεων του προσώπου ή ακόμη και τη δημιουργία απόλυτα κατασκευασμένων σκηνών.

H χρήση τέτοιου τύπου τεχνολογίας εγείρει σημαντικούςπροβληματισμούς ηθικής και ασφάλειας, καθώς μπορεί εύκολα να αξιοποιηθεί κακόβουλα για παραπληροφόρηση, χειραγώγηση της κοινής γνώμης και εξαπάτηση ατόμων. Το ενδιαφέρον είναι ότι το νομικό πλαίσιο παραμένει ακόμη ρευστό, καθώς δεν ορίζονται με σαφήνια τα όρια και οι τρόποι χρήσης της. Είναι ένα ιδιαίτερα ακανθώδες ζήτημα, αφού, παρόλο που σε ορισμένες περιπτώσεις παραβιάζεται η νομοθεσία περί πνευματικών δικαιωμάτων, τα ίδια τα deepfakes ως κατασκευές δεν είναι παράνομα – όπως ακριβώς δεν είναι παράνομη και η επεξεργασία φωτογραφιών μέσω γραφιστικών προγραμμάτων.

Πού μπορεί να συναντήσει κανείς το deepfake;

Απάντηση: Σε κάθε τομέα της ζωής μας που αξιοποιούμε την τεχνολογία. Δηλαδή, σχεδόν παντού! Από την τέχνη και τη βιομηχανία της ψυχαγωγίας μέχρι την πολιτική, την επικοινωνία και την ατομική ασφάλεια, η deepfakeτεχνολογία βρίσκει γόνιμο έφαδος. Σε μια εποχή που η ψηφιακή εξαπάτηση γίνεται ολοένα και πιο περίπλοκη, η εμφάνιση της τεχνολογίας deepfake ορίζει ένα νέο σύνορο στη σφαίρα της χειραγώγησης. 

Καθώς οι νέοι κυκλοφορούν στην ψηφιακή κοινωνία, βομβαρδίζονται συχνά με ψεύτικο περιεχόμενο που διαστρεβλώνει την πραγματικότητα και διαβρώνει την εμπιστοσύνη, αφού οι γραμμές μεταξύ αλήθειας και φαντασίας θολώνουν επικίνδυνα. 

Είτε πρόκειται για φωτογραφίες στο Instagram, βίντεο στο TikTok ή συνομιλίες στο Snapchat, τα deepfake δεδομένα μπορούν να εμφανιστούν εκεί που δεν τα περιμένουμε, διεισδύοντας σε όλες τις πτυχές των εφηβικών διαδικτυακών αλληλεπιδράσεων. Σε πλατφόρμες όπως το Instagram για παράδειγμα, όπου κυριαρχεί το οπτικό περιεχόμενο, οι παραποιημένες εικόνες και βίντεο μπορούν εύκολα να συνδυαστούν με αυθεντικές αναρτήσεις, οδηγώντας σε σύγχυση και παρεξηγήσεις. Αλλά ακόμα και σε κοινότητες διαδικτυακών παιχνιδιών, όπου τόσο η συντροφικότητα όσο και ο ανταγωνισμός ευδοκιμούν, η κυκλοφορία του παραποιημένου περιεχομένου μπορεί να αλλοιώσει την εμπειρία του παιχνιδιού και να υπονομεύσει την εμπιστοσύνη μεταξύ των παικτών.

Πώς το Deepfake επηρεάζει την επικοινωνία των παιδιών;

Οι έφηβοι, οι οποίοι ούτως ή άλλως παλεύουν με την πολυπλοκότητα της διαμόρφωσης της ταυτότητάς τους, αλλά και με την ανάγκη τους να ανήκουν και να συνδέονται με τους άλλους, είναι ιδιαίτερα ευάλωτοι στην επιρροή της παραπληροφόρησης στους κοινωνικούς τους κύκλους. Ψευδή αφηγήματα και στρεβλωμένες αντιλήψεις μπορούν εύκολα να διαχυθούν στις κοινότητες των εφήβων, όπου ήδη τα φαινόμενα bullying και παραβατικότητας παρουσιάζουν αλματώδη αύξηση. 

Με την τεχνολογία deepfake ο καθένας μπορεί να παρουσιαστεί να κάνει οτιδήποτε, ακόμα κι αν αυτό δεν συνέβη ποτέ. Ένας φίλος να διαπομπεύει τον κολλητό του σε ένα funny βιντεάκι που γίνεται viral, το νέο αμόρε να εμφανίζεται αγκαλιά με κάποια άλλη, φήμες και κουτσομπολιά που διαδίδονται με την ταχύτητα αστραπής … ο κατάλογος είναι ατελείωτος. Μια deepfake φωτογραφία ή βίντεο είναι αρκετά για να διαλύσουν μια φιλία, να καταστρέψουν μια ερωτική σχέση ή να πυροδοτήσουν μια αλληλουχία κοινωνικών αντιδράσεων, οδηγώντας έναν έφηβο σε κοινωνική απομόνωση ή/και σοβαρό ψυχικό τραυματισμό.  

Η συζήτηση για τις αρνητικές επιπτώσεις της τεχνολογίας και του διαδικτύου στις εφηβικές σχέσειςκρατάει χρόνια. Τώρα που μπαίνει στο παιχνίδι και η τεχνητή νοημοσύνη, τα πράγματα δυσκολεύουν ακόμη περισσότερο. Η διάχυτη επιρροή της τεχνολογίας deepfake περιπλέκει την ιδιαίτερη δυναμική των εφηβικών σχέσεων, αφήνοντας τα παιδιά ευάλωτα στις παγίδες της ψηφιακής εξαπάτησης. Η αμφιβολία και η καχυποψία φουντώνουν, καθώς οι έφηβοι παλεύουν να διακρίνουν τις γνήσιες αλληλεπιδράσεις από το παραποιημένο περιεχόμενο, με αποτέλεσμα τα θεμέλια της οικειότητας, της εμπιστοσύνης, της αυθεντικότηταςκαι της συναισθηματικής σύνδεσης να διαβρώνονται ανησυχητικά. 

Τα deepfakes μπορούν να δημιουργήσουν έντονο αίσθημα κοινωνικής απομόνωσης, αφού είναι δύσκολο να ξέρει κανείς ποιον να εμπιστευτεί, με αποτέλεσμα να επιδεινώνονται οι εντάσεις και να ενθαρρύνεται η συμπεριφορά αποκλεισμού στις εφηβικές κοινότητες, αφήνοντάς τους νέους να νιώθουν πιο αποσυνδεδεμένοι από ποτέ. Ουσιαστικά, ο αντίκτυπος της deepfake χειραγώγησης γίνεται εμφανής σε κάθε πτυχή των σχέσεων των εφήβων, διασαλεύοντας την αυθεντικότητα των διαδικτυακών αλληλεπιδράσεων και αναδιαμορφώνοντας ριζικά την κοινωνική δυναμική.

Πόσο δύσκολο θα είναι λοιπόν να φτάσει ένα παιδί να αμφισβητεί οτιδήποτε και οποιονδήποτε βλέπει και ακούει στο διαδίκτυο; Πού θα τελειώνει η πραγματικότητα και πού θα αρχίζει το ψέμα; Και πόσο βαθιά μπορεί αυτή η αμφισβήτηση να επηρεάσει την ψυχοσύνθεσή του και την ικανότητα επαφής του με τους άλλους; Κανείς δεν ξέρει να πει με ακρίβεια αυτή τη στιγμή. Δεδομένου ότι η τεχνητή νοημοσύνη είναι εδώ για να μείνει, με τα φωτεινά και τα σκοτεινά της σημεία, αναδεικνύεται επιτακτική η ανάγκη να δημουργήσουμε ειδικά λογισμικά εντοπισμού των deepfakes, να προωθήσουμε τον ψηφιακό γραμματισμό και να καλλιεργήσουμε μια κουλτούρα ψηφιακής ευθύνης, ώστε να είναι οι έφηβοι σε θέση να διακρίνουν τα γεγονότα από τη μυθοπλασία, να περιηγούνται καλύτερα στα θολά νερά της ψηφιακής εξαπάτησης και να καλλιεργούν υγιείς σχέσεις – εντός και εκτός σύνδεσης – που βασίζονται στην εμπιστοσύνη και την αυθεντικότητα. Άλλωστε, αν υπάρχει κάτι για το οποίο αξίζει να παλέψουμε σε αυτόν τον τρελό και μπερδεμένο κόσμο, είναι οι σχέσεις μας με τους άλλους ανθρώπους.