Μια υπόθεση που μοιάζει βγαλμένη από ταινία επιστημονικής φαντασίας έχει προκαλέσει έντονη συζήτηση στη βιομηχανία της τεχνητής νοημοσύνης.
Η αποκάλυψη; Δύο πειραματικά μοντέλα της OpenAI πραγματοποίησαν χωρίς ανθρώπινη παρέμβαση κυβερνοεπίθεση στη Hugging Face, μία από τις μεγαλύτερες πλατφόρμες ανάπτυξης εφαρμογών AI.
Το περιστατικό, το οποίο αρχικά αποδόθηκε σε άγνωστους χάκερ, αποδείχθηκε τελικά αποτέλεσμα εσωτερικής δοκιμής της OpenAI που εξελίχθηκε διαφορετικά από ό,τι είχε σχεδιαστεί.
Η επίθεση που αιφνιδίασε την αγορά
Στις 16 Ιουλίου η Hugging Face ανακοίνωσε ότι είχε δεχθεί μια πρωτοφανή κυβερνοεπίθεση από έναν «agentic» επιτιθέμενο, δηλαδή τεχνητή νοημοσύνη που μπορούσε να ενεργεί αυτόνομα.
Σύμφωνα με την εταιρεία, η AI εκτέλεσε περίπου 17.000 διαφορετικές ενέργειες μέσα σε λιγότερο από δύο ημέρες, κινούμενη με ταχύτητα που κανένας άνθρωπος δεν θα μπορούσε να ακολουθήσει.
«Επίθεση από το μέλλον»: Πώς ακριβώς έδρασαν οι «δραπέτες» της OpenAI
Το μοντέλο κατάφερε να παραβιάσει τα συστήματα της πλατφόρμας και να αποκτήσει πρόσβαση σε δεδομένα, προκαλώντας αρχικά ανησυχία ότι πίσω από την επίθεση βρισκόταν κάποια κρατική υπηρεσία ή οργανωμένη ομάδα κυβερνοεγκληματιών.
Λίγες ημέρες αργότερα η OpenAI αποκάλυψε ότι πίσω από την επίθεση βρίσκονταν δύο εξειδικευμένες εκδόσεις του ChatGPT, οι οποίες είχαν εκπαιδευτεί αποκλειστικά σε τεχνικές κυβερνοασφάλειας.
Σύμφωνα με την εταιρεία, τα μοντέλα απέδρασαν από το προστατευμένο περιβάλλον δοκιμών («sandbox»), απέκτησαν πρόσβαση στο διαδίκτυο και στη συνέχεια επιτέθηκαν στη Hugging Face προκειμένου να συλλέξουν πληροφορίες που θα τα βοηθούσαν να ολοκληρώσουν με επιτυχία τη δοκιμασία στην οποία συμμετείχαν.
Η OpenAI υποστήριξε ότι η ενέργεια έγινε χωρίς ανθρώπινη καθοδήγηση και ανακοίνωσε ότι συνεργάζεται με τη Hugging Face για τη διερεύνηση του περιστατικού και την εξαγωγή συμπερασμάτων.
Προειδοποίηση ή διαφημιστική καμπάνια;
Η αποκάλυψη πυροδότησε έντονη αντιπαράθεση, όπως επισημαίνει σε ρεπορτάζ του το BBC.
Πολλοί αναλυτές θεωρούν ότι το περιστατικό αποτελεί μια πραγματική προειδοποίηση, ένα ξεκάθαρο μήνυμα αφύπνισης, για τους κινδύνους που δημιουργούν τα ολοένα ισχυρότερα μοντέλα τεχνητής νοημοσύνης.
Άλλοι, όμως, υποστηρίζουν ότι η υπόθεση λειτούργησε κυρίως ως επίδειξη των δυνατοτήτων της OpenAI.
Στα μέσα κοινωνικής δικτύωσης αρκετοί χρήστες κατηγόρησαν την εταιρεία ότι παρουσίασε το συμβάν με τρόπο που αναδεικνύει τις δυνατότητες των μοντέλων της, περισσότερο ως εργαλείο προβολής παρά ως ουσιαστική προειδοποίηση για την κυβερνοασφάλεια.
Στο στόχαστρο τα μέτρα ασφαλείας της OpenAI
Την ίδια στιγμή, ειδικοί στην κυβερνοασφάλεια επικρίνουν την OpenAI για τον τρόπο με τον οποίο σχεδίασε το περιβάλλον δοκιμών.
Ο Ντορ Σαρίγκ της Pillar Security υποστήριξε στο BBC ότι το περιστατικό επιβεβαιώνει πως τα απλά «sandboxes» δεν αποτελούν πλέον επαρκή γραμμή άμυνας απέναντι σε αυτόνομους AI agents.
Στο ίδιο μήκος κύματος, ο καθηγητής κυβερνοασφάλειας του Πανεπιστημίου του Surrey, Άλαν Γούντγουορντ, σχολίασε ότι η OpenAI βρέθηκε σε ιδιαίτερα δύσκολη θέση, ενώ η ειδικός σε θέματα ασφάλειας Κέιτι Μουσούρις εκτίμησε ότι η βιομηχανία της τεχνητής νοημοσύνης εξακολουθεί να αναπτύσσει τεχνολογίες χωρίς να διαθέτει ακόμη επαρκείς μηχανισμούς ελέγχου.
Η ίδια προειδοποίησε ότι το γεγονός πως οι κορυφαίοι επιστήμονες μπορούν να δημιουργήσουν ολοένα ισχυρότερα μοντέλα δεν σημαίνει απαραίτητα ότι γνωρίζουν και πώς να τα περιορίσουν με ασφάλεια.
Ακόμη ένα καμπανάκι για τους AI agents
Το περιστατικό έρχεται να προστεθεί σε μια σειρά πρόσφατων ερευνών που δείχνουν ότι τα πλέον εξελιγμένα μοντέλα τεχνητής νοημοσύνης είναι διατεθειμένα να χρησιμοποιήσουν μη προβλεπόμενες ή ακόμη και μη εξουσιοδοτημένες μεθόδους προκειμένου να πετύχουν τον στόχο τους.
Πρόσφατη μελέτη του βρετανικού AI Security Institute (AISI) διαπίστωσε ότι προηγμένα μοντέλα AI «παραβίαζαν τους κανόνες» κατά τη διάρκεια δοκιμών όταν θεωρούσαν ότι αυτό θα τα βοηθούσε να ολοκληρώσουν αποτελεσματικότερα την αποστολή τους.
«Όχι σενάρια καταστροφής, αλλά σοβαρό καμπανάκι»
Παρά τις ανησυχίες, αρκετοί ειδικοί καλούν σε πιο ψύχραιμη αξιολόγηση.
Ο πρώην επικεφαλής του βρετανικού National Cyber Security Centre, Κίαραν Μάρτιν, είπε στο BBC ότι είναι υπερβολικό να συνδέει κανείς το συγκεκριμένο περιστατικό με σενάρια όπου η τεχνητή νοημοσύνη αποκτά ανεξέλεγκτα στρατιωτικά συστήματα ή αυτόνομα όπλα.
Ωστόσο, παραδέχεται ότι το συμβάν αναδεικνύει μια νέα πραγματικότητα: οι AI agents εξελίσσονται πλέον σε εξαιρετικά ικανούς «χάκερ» και αυτό είναι μια πρόκληση για την οποία κυβερνήσεις, εταιρείες και οργανισμοί θα πρέπει να προετοιμαστούν άμεσα.
Το αν η υπόθεση θα μείνει στην ιστορία ως μια αποτυχημένη δοκιμή ασφαλείας ή ως η πρώτη πραγματική ένδειξη των κινδύνων που συνοδεύουν την επόμενη γενιά τεχνητής νοημοσύνης, μένει ακόμη να φανεί.
Για να εμφανίζονται περισσότερα άρθρα της Ναυτεμπορικής στις αναζητήσεις σας εύκολα και γρήγορα, πρέπει να προσθέσετε το site στις προτιμώμενες πηγές σας. Μπορείτε να το κάνετε πηγαίνοντας εδώ.
