Το AI εργαλείο στα χέρια των κυβερνοεγκληματιών στο dark web

Η υπηρεσία Digital Footprint Intelligence της Kaspersky έχει εντοπίσει σχεδόν 3.000 δημοσιεύσεις στο dark web που συζητούν κυρίως τη χρήση του ChatGPT και άλλων LLMs για παράνομες δραστηριότητες. Οι δράστες αναζητούν τρόπους εξαπάτησης, από τη δημιουργία κακόβουλων εναλλακτικών λύσεων του chatbot μέχρι jailbreaking του πρωτότυπου και όχι μόνο. Οι κλεμμένοι λογαριασμοί ChatGPT και οι υπηρεσίες που προσφέρουν τη μαζική αυτοματοποιημένη δημιουργία τους κατακλύζουν και τα κανάλια του dark web, φτάνοντας τις επιπλέον 3.000 αναρτήσεις.

Το 2023, η υπηρεσία Kaspersky Digital Footprint Intelligence ανακάλυψε σχεδόν 3.000 αναρτήσεις στο dark web, που συζητούσαν τη χρήση του ChatGPT για παράνομους σκοπούς ή μιλούσαν για εργαλεία που βασίζονται σε τεχνολογίες AI. Παρόλο που οι συνομιλίες κορυφώθηκαν τον Μάρτιο, οι συζητήσεις συνεχίζονται.

«Οι δράστες αναζητούν συνεχώς διάφορους τρόπους για την εφαρμογή του ChatGPT και του AI. Οι συζητήσεις περιλαμβάνουν συχνά την ανάπτυξη κακόβουλου λογισμικού και άλλους τύπους παράνομης χρήσης γλωσσικών μοντέλων, όπως η επεξεργασία κλεμμένων δεδομένων χρηστών, η ανάλυση αρχείων από μολυσμένες συσκευές και όχι μόνο. Η δημοτικότητα των εργαλείων AI έχει οδηγήσει στην ενσωμάτωση αυτοματοποιημένων απαντήσεων από το ChatGPT ή ομοιά του σε ορισμένα φόρουμ κυβερνοεγκληματιών. Επιπλέον, οι δράστες τείνουν να μοιράζονται jailbreaks μέσω διαφόρων καναλιών στο dark web – ειδικά σύνολα προτροπών που μπορούν να ξεκλειδώσουν πρόσθετες λειτουργίες – και επινοούν τρόπους εκμετάλλευσης νόμιμων εργαλείων, όπως αυτά για pentesting, βασισμένα σε μοντέλα για κακόβουλους σκοπούς», εξήγησε η Alisa Kulishenko, digital footprint analyst at Kaspersky.

Εκτός από τα chatbot και το ΑΙ που αναφέρθηκαν, σημαντική προσοχή δίνεται σε έργα όπως το XXXGPT, το FraudGPT και άλλα. Αυτά τα γλωσσικά μοντέλα προωθούνται στο dark web ως εναλλακτικές λύσεις του ChatGPT, διαθέτοντας επιπλέον λειτουργίες και χωρίς τους αρχικούς περιορισμούς.

Κλεμμένοι λογαριασμοί ChatGPT προς πώληση

Μια ακόμη απειλή για τους χρήστες και τις εταιρείες είναι η αγορά λογαριασμών για την επί πληρωμή έκδοση του ChatGPT. Το 2023, εντοπίστηκαν άλλες 3.000 αναρτήσεις (εκτός από τις προαναφερόμενες) που διαφήμιζαν λογαριασμούς ChatGPT προς πώληση σε όλο το dark web και σε κρυφά κανάλια Telegram. Αυτές οι αναρτήσεις είτε μοιράζουν κλεμμένους λογαριασμούς είτε προωθούν υπηρεσίες αυτόματης εγγραφής που δημιουργούν μαζικά λογαριασμούς ύστερα από αίτημα. Αξίζει να σημειωθεί ότι συγκεκριμένες αναρτήσεις επαναδημοσιεύθηκαν σε πολλά κανάλια του dark web.

«Ενώ τα ίδια τα εργαλεία AI δεν είναι από μόνα τους επικίνδυνα, οι κυβερνοεγκληματίες προσπαθούν να βρουν αποτελεσματικούς τρόπους χρήσης των γλωσσικών μοντέλων, τροφοδοτώντας έτσι μια τάση μείωσης του περιορισμού της πρόσβασης στο κυβερνοέγκλημα και, σε ορισμένες περιπτώσεις, πιθανώς αύξησης των κυβερνοεπιθέσεων. Ωστόσο, είναι απίθανο ότι το generative AI και τα chatbots θα φέρουν επανάσταση στον χώρο των επιθέσεων – τουλάχιστον το 2024. Ο αυτοματοποιημένος χαρακτήρας των κυβερνοεπιθέσεων συχνά σημαίνει αυτοματοποιημένες άμυνες. Παρ’ όλα αυτά, η ενημέρωση για τις δραστηριότητες των κυβερνοεγκληματιών είναι σημαντική για να είμαστε προετοιμασμένοι σχετικά με την εταιρική κυβερνοασφάλεια», αναφέρει η Alisa Kulishenko, digital footprint analyst at Kaspersky.

Η λεπτομερής έρευνα παρουσιάζεται στην επίσημη ιστοσελίδα του Kaspersky Digital Footprint Intelligence. Για να αποφύγετε τις απειλές που σχετίζονται με τις δραστηριότητες των κυβερνοεγκληματιών στο επικίνδυνο κομμάτι του διαδικτύου, μπορείτε να εφαρμόσετε τα ακόλουθα μέτρα ασφαλείας:

• Χρησιμοποιήστε το Kaspersky Digital Footprint Intelligence για να βοηθήσετε τους αναλυτές ασφαλείας να εξερευνήσουν τα χαρακτηριστικά ενός εισβολέα με τους πόρους της εταιρείας τους, ανακαλύπτοντας αμέσως τους πιθανούς τρόπους επίθεσης που διαθέτουν. Αυτό συμβάλλει επίσης στην ενημέρωση σχετικά με τις υπάρχουσες απειλές από εγκληματίες του κυβερνοχώρου, προκειμένου να προσαρμόσετε ανάλογα την ασφάλεια σας ή να λάβετε εγκαίρως μέτρα αντιμετώπισης και εξάλειψης.
• Επιλέξτε μια αξιόπιστη λύση ασφάλειας τερματικού σημείου, όπως το Kaspersky Endpoint Security for Business, η οποία είναι εξοπλισμένη με δυνατότητες ανίχνευσης βάσει συμπεριφοράς και ελέγχου εμφάνισης ανωμαλιών για αποτελεσματική προστασία από γνωστές και άγνωστες απειλές.

• Οι εξειδικευμένες υπηρεσίες μπορούν να βοηθήσουν στην καταπολέμηση επιθέσεων μεγάλου εύρους. Με την υπηρεσία Kaspersky Managed Detection and Response μπορείτε να εντοπίσετε και να εμποδίσετε τη δράση των εισβολέων στα πρώτα στάδια, πριν οι δράστες επιτύχουν τους στόχους τους. Εάν αντιμετωπίσετε ένα περιστατικό, η υπηρεσία Kaspersky Incident Response θα σας βοηθήσει να ανταποκριθείτε και να ελαχιστοποιήσετε τις συνέπειες, ιδίως να εντοπίσετε τους παραβιασμένους λογαριασμούς και να προστατεύσετε την εγκατάσταση από παρόμοιες επιθέσεις στο μέλλον.