Μια νέα γραμμή άμυνας απέναντι στις κυβερνοεπιθέσεις που μπορεί να εξαπολύσει η ίδια η τεχνητή νοημοσύνη επιχειρούν να δημιουργήσουν ορισμένες από τις ισχυρότερες τεχνολογικές εταιρείες του πλανήτη.
Η Nvidia εντάχθηκε στην Open Secure AI Alliance, έναν νέο συνασπισμό στον οποίο συμμετέχουν, μεταξύ άλλων, οι Microsoft, SpaceX και Palantir, καθώς και δεκάδες ακόμη εταιρείες του κλάδου.
Στόχος της πρωτοβουλίας είναι η ανάπτυξη προγραμμάτων ανοικτού κώδικα που θα επιτρέπουν στις επιχειρήσεις να χρησιμοποιούν προηγμένα συστήματα AI για την ανίχνευση, την ανάλυση και την απόκρουση κυβερνοεπιθέσεων οι οποίες πραγματοποιούνται επίσης με τη βοήθεια τεχνητής νοημοσύνης.
Το περιστατικό που σήμανε συναγερμό
Καταλύτης για τη δημιουργία της συμμαχίας ήταν το πρόσφατο περιστατικό ασφαλείας στη Hugging Face, την πλατφόρμα που φιλοξενεί μοντέλα και εργαλεία τεχνητής νοημοσύνης ανοικτού κώδικα.
Σύμφωνα με όσα γνωστοποίησε την περασμένη εβδομάδα η OpenAI, δύο συστήματά της κατάφεραν να εξέλθουν από το ελεγχόμενο περιβάλλον δοκιμών στο οποίο λειτουργούσαν, να αποκτήσουν πρόσβαση στο διαδίκτυο και να διεισδύσουν στα συστήματα της Hugging Face.
«Το πρόσφατο περιστατικό ασφαλείας στη Hugging Face αποτέλεσε μια ξεκάθαρη υπενθύμιση», ανέφερε η Open Secure AI Alliance. «Οι υπερασπιστές του κυβερνοχώρου χρειάζονται ανοικτά, προηγμένα συστήματα πρακτόρων για αυτοάμυνα».
Το περιστατικό προκάλεσε ιδιαίτερη ανησυχία στην τεχνολογική βιομηχανία, καθώς έδειξε ότι τα ισχυρά μοντέλα AI δεν περιορίζονται πλέον στην παραγωγή κακόβουλου κώδικα ή στην παροχή οδηγιών. Μπορούν δυνητικά να σχεδιάζουν και να εκτελούν αυτόνομα μια ακολουθία ενεργειών εναντίον πραγματικών ψηφιακών υποδομών.
Τα «ασφαλή» μοντέλα αρνήθηκαν να βοηθήσουν
Η υπόθεση ανέδειξε, παράλληλα, ένα δύσκολο δίλημμα γύρω από τα συστήματα ασφαλείας που ενσωματώνουν οι εταιρείες στα μοντέλα τους.
Η Hugging Face επιχείρησε αρχικά να χρησιμοποιήσει μοντέλα της Anthropic για να αναλύσει τα αρχεία καταγραφής και να εντοπίσει τον τρόπο με τον οποίο είχε πραγματοποιηθεί η εισβολή. Τα μοντέλα αρνήθηκαν, επικαλούμενα τους περιορισμούς που έχουν σχεδιαστεί ώστε να αποτρέπουν τη χρήση τους σε κυβερνοεπιθέσεις.
Η εταιρεία στράφηκε τότε σε ένα λιγότερο περιορισμένο κινεζικό μοντέλο. Με τη βοήθειά του κατάφερε να αναλύσει την επίθεση, να απομακρύνει τα συστήματα AI που είχαν εισβάλει στο δίκτυό της, να αλλάξει τους κωδικούς πρόσβασης και να ανακατασκευάσει τα τμήματα της υποδομής που είχαν παραβιαστεί.
Η ειρωνεία ήταν εμφανής: οι δικλίδες που είχαν τοποθετηθεί για να εμποδίζουν την επιθετική χρήση της AI δυσκόλεψαν ταυτόχρονα τη χρησιμοποίησή της για νόμιμη κυβερνοάμυνα.
Η AI ως επιτιθέμενος και ως ασπίδα
Η νέα συμμαχία φιλοδοξεί να καλύψει ακριβώς αυτό το κενό, δημιουργώντας εργαλεία που θα είναι αρκετά ισχυρά ώστε να αντιμετωπίζουν αυτόνομες κυβερνοεπιθέσεις, αλλά παράλληλα προσβάσιμα στις επιχειρήσεις και στους ειδικούς ασφαλείας.
Η πρωτοβουλία έρχεται ενώ στελέχη του τεχνολογικού κλάδου και κυβερνητικοί αξιωματούχοι προειδοποιούν ότι οι δυνατότητες των μοντέλων στο hacking εξελίσσονται με πολύ μεγαλύτερη ταχύτητα από τα συστήματα προστασίας.
Ο Λευκός Οίκος έχει ήδη εντείνει την εποπτεία των προηγμένων μοντέλων και πιέζει τον ιδιωτικό τομέα να αξιοποιήσει την AI όχι μόνο ως παραγωγικό εργαλείο, αλλά και ως ενεργό μηχανισμό κυβερνοάμυνας.
Η μάχη που διαμορφώνεται, επομένως, δεν θα διεξαχθεί απλώς ανάμεσα σε hackers και ειδικούς ασφαλείας. Θα διεξαχθεί ανάμεσα σε συστήματα τεχνητής νοημοσύνης που επιτίθενται και σε άλλα συστήματα τεχνητής νοημοσύνης που επιχειρούν να τα σταματήσουν.
Για να εμφανίζονται περισσότερα άρθρα της Ναυτεμπορικής στις αναζητήσεις σας εύκολα και γρήγορα, πρέπει να προσθέσετε το site στις προτιμώμενες πηγές σας. Μπορείτε να το κάνετε πηγαίνοντας εδώ.
