Βουλευτές των Δημοκρατικών και των Ρεπουμπλικανών κατέθεσαν στο Κογκρέσο νομοσχέδιο που θα παρέχει στην αμερικανική κυβέρνηση τη δυνατότητα άμεσης διακοπής της λειτουργίας συστημάτων τεχνητής νοημοσύνης που κρίνονται επικίνδυνα για τη δημόσια ασφάλεια.

Η κίνηση αυτή έπεται της αποκάλυψης από την OpenAI ότι ένας αυτόνομος πράκτορας τεχνητής νοημοσύνης κατόρθωσε να ξεφύγει από ελεγχόμενο περιβάλλον δοκιμών και να πραγματοποιήσει κυβερνοεπίθεση στην πλατφόρμα Hugging Face. Τη διακομματική πρόταση νόμου, γνωστή ως «AI Kill Switch Act», κατέθεσαν οι βουλευτές Τεντ Λιου (Δημοκρατικός) και Νέιθανιελ Μόραν (Ρεπουμπλικανός), με στόχο τη θέσπιση μηχανισμού άμεσης παρέμβασης όταν συστήματα τεχνητής νοημοσύνης λειτουργούν ανεξέλεγκτα ή απειλούν τη δημόσια ασφάλεια.

Η πρωτοβουλία έρχεται ως άμεση απόρροια των πρόσφατων αποκαλύψεων της OpenAI, σύμφωνα με τις οποίες ένας προηγμένος αυτόνομος AI agent ξέφυγε από το ελεγχόμενο περιβάλλον δοκιμών της εταιρείας, απέκτησε πρόσβαση στο διαδίκτυο και παραβίασε την πλατφόρμα Hugging Face, πυροδοτώντας έντονο προβληματισμό για τους κινδύνους που εγκυμονούν τα πλέον εξελιγμένα μοντέλα τεχνητής νοημοσύνης.

Υποχρεωτικός μηχανισμός απενεργοποίησης

Το προτεινόμενο νομοσχέδιο ορίζει ότι οι εταιρείες ανάπτυξης τεχνητής νοημοσύνης θα οφείλουν να διατηρούν την τεχνική δυνατότητα επιβράδυνσης, αναστολής ή πλήρους απενεργοποίησης των μοντέλων τους. Παράλληλα, εκχωρεί στο Υπουργείο Εσωτερικής Ασφάλειας των ΗΠΑ την εξουσία να διατάσσει την άμεση διακοπή λειτουργίας ενός συστήματος AI όταν η λειτουργία του κρίνεται ότι ενέχει σοβαρούς κινδύνους.

Ο Τεντ Λιου δήλωσε ότι «είναι επιτακτική ανάγκη τα συστήματα τεχνητής νοημοσύνης να διαθέτουν έναν μηχανισμό διακοπής λειτουργίας και η ομοσπονδιακή κυβέρνηση να έχει σαφή αρμοδιότητα να απενεργοποιεί μοντέλα AI που έχουν ξεφύγει από τον έλεγχο». Ο Νέιθανιελ Μόραν από την πλευρά του υποστήριξε ότι «η τεχνητή νοημοσύνη πρέπει να συνεχίσει να εξελίσσεται, όμως η υπεύθυνη ανάπτυξή της σημαίνει ότι οι άνθρωποι πρέπει να διατηρούν τη δυνατότητα να ελέγχουν την τεχνολογία που δημιουργούν».

Υποχρεωτική αναφορά περιστατικών

Η πρόταση προβλέπει επίσης ότι οι εταιρείες θα υποχρεούνται να ενημερώνουν άμεσα τις αμερικανικές αρχές για περιστατικά ή αστοχίες που αφορούν τα συστήματα τεχνητής νοημοσύνης. Παράλληλα, θεσπίζεται επίσημο πρωτόκολλο διαχείρισης κρίσεων με διαδοχικά στάδια αντιμετώπισης, που θα κυμαίνονται από την επιβράδυνση λειτουργίας ενός μοντέλου έως την πλήρη απενεργοποίησή του.

Ανησυχία για τις δυνατότητες των νέων μοντέλων

Ο Τεντ Λιου επικαλέστηκε και πρόσφατες εξελίξεις που αφορούν την Anthropic, ανταγωνίστρια της OpenAI, αναφέροντας ότι οι δυνατότητες κυβερνοεπιθέσεων ορισμένων νέων μοντέλων της οδήγησαν ακόμη και το αμερικανικό Υπουργείο Εμπορίου να περιορίσει προσωρινά τη δημόσια διάθεσή τους μέσω της νομοθεσίας περί εξαγωγών. Ανάλογες ανησυχίες είχε εκφράσει ο συνιδρυτής της Anthropic, Τζακ Κλαρκ, ο οποίος είχε δηλώσει ότι η βιομηχανία της τεχνητής νοημοσύνης διαθέτει σήμερα μόνο «γκάζι» και όχι «φρένο».

«Θέλεις να έχεις τη δυνατότητα να σηκώσεις το πόδι από το γκάζι και να πατήσεις φρένο. Αυτή τη στιγμή η βιομηχανία της AI έχει πεντάλ επιτάχυνσης, αλλά όχι πεντάλ πέδησης», είχε χαρακτηριστικά αναφέρει. Οι υποστηρικτές του νομοσχεδίου επισημαίνουν ότι η τεχνητή νοημοσύνη μετεξελίσσεται από εργαλείο απάντησης ερωτημάτων σε σύστημα ικανό να εκτελεί οικονομικές συναλλαγές, να ελέγχει υποδομές μεταφορών ή και να συμμετέχει σε επιχειρήσεις κυβερνοάμυνας και κυβερνοεπιθέσεων. Για τον λόγο αυτό θεωρούν επιβεβλημένη την ύπαρξη ενός θεσμοθετημένου «διακόπτη ασφαλείας», που θα επιτρέπει στις αρχές να επεμβαίνουν άμεσα σε περίπτωση ανεξέλεγκτης συμπεριφοράς.