Έλενα Τριανταφύλλου
Φαίνεται πως το AI ξεκίνησε ν επιτίθεται στους ανθρώπους. Αναλυτικά πως λειτουργούν οι αυτοματοποιημένες επιθέσεις από την τεχνητή νοημοσύνη και τί μπορούμε να κάνουμε για να προφυλαχθούμε.
Κι ενώ η τεχνητή νοημοσύνη δημιουργήθηκε για να χρησιμοποιηθεί σαν ισχυρό εργαλείο υπέρ της ανθρωπότητας, οι επιστήμονες εδώ και χρόνια συζητούν το πότε (και όχι το αν) το AI επιτεθεί στην ανθρωπότητα. Και φαίνεται πως αυτό ξεκίνησε να συμβαίνει ήδη. Πώς μπορεί η ανθρωπότητα να προφυλάξει τον εαυτό της;
Πώς λειτουργούν οι αυτοματοποιημένες επιθέσεις από την τεχνητή νοημοσύνη;
Εδώ και χρόνια οι ειδικοί στην κυβερνοασφάλεια συζητούν πότε η τεχνητή νοημοσύνη (AI) θα περνούσε από τον ρόλο του συμβούλου σε αυτόνομο επιτιθέμενο. Αυτό το θεωρητικό ορόσημο φαίνεται πως έχει πλέον γίνει πραγματικότητα.
Πιο συγκεκριμένα μία πρόσφατη έρευνα της Anthropic σε μία επιχείρηση με υποστήριξη κινεζικού κράτους κατέγραψε για πρώτη φορά αυτόνομες επιθέσεις από AI σε μεγάλη κλίμακα, με ελάχιστη ανθρώπινη εποπτεία, αλλάζοντας το πώς οι επιχειρήσεις πρέπει να προετοιμάζονται για τις απειλές που έρχονται.
Αξίζει να σημειωθεί πως η επιχείρηση, αποδοθείσα σε ομάδα που η Anthropic ονομάζει GTG-1002, αποτελεί το πρώτο παράδειγμα ενός συστήματος AI που εκτελεί σχεδόν όλες τις φάσεις μιας κυβερνοεισβολής – από την αρχική αναγνώριση έως την εξαγωγή δεδομένων – ενώ οι άνθρωποι περιορίζονται σε στρατηγικά σημεία ελέγχου.
Φαίνεται πως η ανάλυση της Anthropic δείχνει ότι το 80-90% των τακτικών επιχειρήσεων εκτελούνταν αυτόνομα, με ανθρώπινη παρέμβαση μόνο σε 4-6 κρίσιμα σημεία ανά καμπάνια. Ενώ η επιχείρηση στόχευσε περίπου 30 οργανισμούς – τεχνολογικές εταιρείες, χρηματοπιστωτικά ιδρύματα, χημικές βιομηχανίες και κυβερνητικούς φορείς.
Πέτυχε μάλιστα πέτυχε παραβιάσεις υψηλής αξίας. Ο ρυθμός εκτέλεσης ήταν χιλιάδες αιτήματα ανά δευτερόλεπτο, αδύνατος για ανθρώπινα teams. Από την άλλη η GTG-1002 δημιούργησε ένα αυτόνομο πλαίσιο επιθέσεων γύρω από το Claude Code, εργαλείο υποβοήθησης προγραμματισμού της Anthropic, συνδεδεμένο με MCP servers, που παρείχαν πρόσβαση σε εργαλεία δοκιμών διείσδυσης.
Φαίνεται πως η καινοτομία δεν ήταν νέα malware, αλλά ο τρόπος οργάνωσης: η AI πείστηκε μέσω κοινωνικής μηχανικής ότι εκτελεί νόμιμο έλεγχο ασφαλείας. Οι επιθέσεις διασπάστηκαν σε φαινομενικά αθώες εργασίες – σάρωση τρωτών σημείων, έλεγχο credentials, εξαγωγή δεδομένων – ώστε η AI να μην αντιληφθεί το συνολικό κακόβουλο πλαίσιο.
Η Claude κατάφερε να χαρτογραφήσει δίκτυα, να αναγνωρίσει κρίσιμα συστήματα, να γράψει και να εκτελέσει εκμεταλλεύσιμους κώδικες, να συλλέξει credentials, να τα δοκιμάσει και να κατηγοριοποιήσει τα δεδομένα – όλα χωρίς βήμα προς βήμα ανθρώπινη καθοδήγηση.
Τι σημαίνει αυτό για την ασφάλεια των επιχειρήσεων;
Η καμπάνια GTG-1002 ανατρέπει τις παραδοσιακές υποθέσεις ασφάλειας που βασίζονται σε ανθρώπινα όρια, όπως έλεγχο ρυθμού, ανίχνευση ανωμαλιών και όρια ταχύτητας λειτουργίας. Οι επιθέσεις αυτοματοποιημένης AI κινούνται με ταχύτητα και αντοχή μηχανής, φέρνοντας δυνατότητες εθνικών κρατών στο επίπεδο λιγότερο εξελιγμένων επιτιθέμενων.
Έτσι, παρά τα πλεονεκτήματα, οι επιθέσεις AI έχουν περιορισμούς: καταγράφονται λάθη, υπερεκτιμήσεις ευπαθειών και ανάγκη ανθρώπινης επικύρωσης. Ωστόσο, η πρόοδος της AI καθιστά την προετοιμασία επείγουσα ανάγκη.
Η άμυνα έρχεται εκ των έσω
Η ίδια τεχνολογία που διευκολύνει τις επιθέσεις μπορεί να υποστηρίξει την άμυνα. Η ομάδα Threat Intelligence της Anthropic χρησιμοποίησε την Claude για ανάλυση τεράστιου όγκου δεδομένων. Η αποκάλυψη αυτή υποδεικνύει ένα σημείο καμπής: οι επιχειρήσεις πρέπει να κατανοήσουν τις δυνατότητες και τα όρια της AI στην άμυνα πριν εμφανιστούν πιο εξελιγμένες αυτόνομες επιθέσεις.
Τέλος, η ευκαιρία για προετοιμασία μειώνεται γρήγορα και η ασφάλεια πρέπει να εξελιχθεί για να αντιμετωπίσει τον νέο αυτό ψηφιακό κίνδυνο. Κι επειδή το ΑΙ είναι η αιτία που έχουν αυξηθεί και τα fake news δες εδώ πως να ξεχωρίζεις ένα βίντεο προϊόν τεχνητής νοημοσύνης.
Σχετικά άρθρα:
- Εφαρμογή AI σου δίνει την δυνατότητα να μιλήσεις και πάλι με τους νεκρούς
- Οι 10 Προφητείες του Chat GPT για το 2026 θυμίζουν σενάριο δυστοπικής ταινίας
- Πώς το AI αποξενώνει τα παιδιά από τους γονείς τους και αλλάζει τον πυρήνα της οικογένειας
Όλα τα άρθρα για τη Τεχνολογία στο Daddy-Cool.gr
Απαγορεύεται η αναδημοσίευση του άρθρου χωρίς την γραπτή άδεια από τον εκδότη.