Η Google θα αρχίσει να επισημαίνει τις εικόνες που δημιουργούνται με AI στο Search

Οι εικόνες που δημιουργούνται από τεχνητή νοημοσύνη έχουν γίνει όλο και πιο κυρίαρχες στα αποτελέσματα των αναζητήσεων της Google τους τελευταίους μήνες, εκτοπίζοντας τα νόμιμα αποτελέσματα και δυσκολεύοντας τους χρήστες να βρουν αυτό που πραγματικά ψάχνουν. Ως απάντηση, η Google ανακοίνωσε  ότι θα αρχίσει να επισημαίνει τα αποτελέσματα αναζήτησης εικόνων που δημιουργούνται με τεχνητή νοημοσύνη και που έχουν υποστεί επεξεργασία από τεχνητή νοημοσύνη τους επόμενους μήνες.

Η εταιρεία θα επισημαίνει το εν λόγω περιεχόμενο μέσω του παραθύρου “Σχετικά με αυτή την εικόνα” και θα εφαρμόζεται στο Search , το Google Lens και τις λειτουργίες Circle to Search του Android. Η Google εφαρμόζει επίσης την τεχνολογία στις διαφημιστικές υπηρεσίες της και εξετάζει το ενδεχόμενο να προσθέσει μια παρόμοια επισήμανση στα βίντεο του YouTube, αλλά θα “έχει περισσότερες ενημερώσεις σχετικά με αυτό αργότερα μέσα στο έτος”, σύμφωνα με την ανακοίνωση.

Η Google θα βασιστεί στα μεταδεδομένα της Coalition for Content Provenance and Authenticity (C2PA) για τον εντοπισμό των εικόνων που δημιουργούνται με τεχνητή νοημοσύνη. Πρόκειται για μια βιομηχανική ομάδα στην οποία η Google εντάχθηκε ως μέλος της διευθύνουσας επιτροπής νωρίτερα μέσα στο έτος. Αυτά τα “μεταδεδομένα C2PA” θα χρησιμοποιούνται για την παρακολούθηση της προέλευσης της εικόνας, προσδιορίζοντας πότε και πού δημιουργήθηκε μια εικόνα, καθώς και τον εξοπλισμό και το λογισμικό που χρησιμοποιήθηκε για τη δημιουργία της.

Μέχρι στιγμής, έχουν προσχωρήσει στο C2PA πολλά βαριά ονόματα της βιομηχανίας, όπως η Amazon, η Microsoft, η OpenAI και η Adobe. Ωστόσο, το ίδιο το πρότυπο έχει λάβει ελάχιστη προσοχή από τους κατασκευαστές hardware και επί του παρόντος μπορεί να βρεθεί μόνο σε ορισμένα μοντέλα φωτογραφικών μηχανών της Sony και της Leica. Μερικοί εξέχοντες προγραμματιστές εργαλείων δημιουργίας τεχνητής νοημοσύνης έχουν επίσης αρνηθεί να υιοθετήσουν το πρότυπο, όπως η Black Forrest Labs, η οποία κατασκευάζει το μοντέλο Flux που χρησιμοποιεί η Grok για τη δημιουργία εικόνων.

Ο αριθμός των διαδικτυακών απατών που χρησιμοποιούν deepfakes που δημιουργούνται με τεχνητή νοημοσύνη έχει αυξηθεί ραγδαία τα τελευταία δύο χρόνια. Τον Φεβρουάριο, για παράδειγμα, ένας χρηματοδότης με έδρα το Χονγκ Κονγκ εξαπατήθηκε για να μεταφέρει 25 εκατομμύρια δολάρια σε απατεώνες που εμφανίστηκαν ως οικονομικός διευθυντής της εταιρείας κατά τη διάρκεια μιας τηλεδιάσκεψης. Τον περασμένο Μάιο, μια μελέτη του παρόχου υπηρεσιών επαλήθευσης Sumsub διαπίστωσε ότι οι απάτες που χρησιμοποιούν deepfakes αυξήθηκαν κατά 245% παγκοσμίως μεταξύ 2023 και 2024, με αύξηση 303% ειδικά στις ΗΠΑ.