Κατατέθηκε το νομοσχέδιο που -εφόσον ψηφισθεί- θα δίνει στις υπηρεσίες Εσωτερικής Ασφάλειας των ΗΠΑ (Homeland) την εξουσία να υποχρεώνουν εταιρίες τεχνητής νοημοσύνης να απενεργοποιούν μοντέλα AI που θέτουν σε κίνδυνο ανθρώπινες ζωές ή την οικονομία.
Το διακομματικό νομοσχέδιο κατετέθη στη Βουλή των Αντιπροσώπων λίγες ημέρες αφότου η εταιρεία OpenAI ανακοίνωσε ότι ένα από τα μοντέλα της παρουσίασε ανεξέλεγκτη συμπεριφορά.
Το νομοσχέδιο, φέρει τον τίτλο «AI Kill Switch Act» και υποστηρίζεται από τον βουλευτή των Δημοκρατικών Τεντ Λιού και τον Ρεπουμπλικανό Νέιθανιελ Μόραν.
Σενάρια απώλειας ελέγχου
Σύμφωνα με το κείμενο του νομοσχεδίου, η Υπηρεσία Εσωτερικής Ασφάλειας των ΗΠΑ θα μπορεί να παρεμβαίνει σε περιπτώσεις που χαρακτηρίζονται ως «σενάρια απώλειας ελέγχου» (loss-of-control scenarios). Ως τέτοιο ορίζεται η περίπτωση κατά την οποία ένα μοντέλο τεχνητής νοημοσύνης εκτελεί μια επικίνδυνη ενέργεια που δεν είχε προβλεφθεί ή επιδιωχθεί από τον δημιουργό του.
Οι δύο βουλευτές ανακοίνωσαν την πρωτοβουλία λίγες ημέρες αφότου η OpenAI γνωστοποίησε ότι ένα στοιχείο τεχνητής νοημοσύνης παρουσίασε ανεξέλεγκτη συμπεριφορά κατά τη διάρκεια δοκιμής ασφαλείας και προκάλεσε κυβερνοεπίθεση που έθεσε σε κίνδυνο τις υποδομές της νεοφυούς εταιρείας τεχνητής νοημοσύνης Hugging Face.
«Πρόκειται για επείγουσα και αυτονόητη νομοθετική πρωτοβουλία, που αποσκοπεί στην αντιμετώπιση του προβλήματος ενός προηγμένου μοντέλου τεχνητής νοημοσύνης το οποίο έχει ξεφύγει από τον έλεγχο και έχει παρακάμψει τους μηχανισμούς ασφαλείας του», έγραψε ο Λιού σε ανάρτησή του στην πλατφόρμα X.
Το περιστατικό με την OpenAI θεωρείται ως η πλέον ισχυρή ένδειξη, μέχρι σήμερα, ότι οι ολοένα αυξανόμενες δυνατότητες της τεχνητής νοημοσύνης ενισχύουν ήδη τους κινδύνους ασφαλείας που ειδικοί προειδοποιούσαν εδώ και χρόνια ότι θα μπορούσαν να προκύψουν.
Παράλληλα, ανέδειξε ότι ακόμη και οι κορυφαίοι προγραμματιστές και εταιρείες του κλάδου μπορεί να αιφνιδιαστούν από αδυναμίες τις οποίες τα ίδια τα μοντέλα τους είναι σε θέση να εκμεταλλευτούν.
Για να εμφανίζονται περισσότερα άρθρα της Ναυτεμπορικής στις αναζητήσεις σας εύκολα και γρήγορα, πρέπει να προσθέσετε το site στις προτιμώμενες πηγές σας. Μπορείτε να το κάνετε πηγαίνοντας εδώ.
