Εκατοντάδες προσωπικότητες, Νομπελίστες, πρώην στρατιωτικοί ηγέτες, καλλιτέχνες, Βρετανοί βασιλείς, ακόμη και γκουρού στην τεχνητή νοημοσύνη και την τεχνολογία, ζητούν την απαγόρευση εργασίας που θα μπορούσε να οδηγήσει στην υπερ-νοημοσύνη των υπολογιστών, ένα στάδιο ΑΙ που δεν έχει ακόμη επιτευχθεί και το οποίο, όπως είπαν, θα μπορούσε μια μέρα να αποτελέσει απειλή για την ανθρωπότητα.

Η δήλωση προτείνει «απαγόρευση της ανάπτυξης της υπερ-νοημοσύνης» μέχρι να υπάρξει τόσο «ευρεία επιστημονική συναίνεση ότι θα γίνεται με ασφάλεια και έλεγχο» όσο και «ισχυρή δημόσια αποδοχή». Πάνω από 800 άτομα, συμπεριλαμβανομένων ηγετών της τεχνολογίας όπως ο ιδρυτής του Virgin Group, Ρίτσαρντ Μπράνσον και ο συνιδρυτής της Apple, Στιβ Βόσνιακ υπέγραψαν μια δήλωση που δημοσιεύθηκε χθες (21.10) ζητώντας μια παύση στην ανάπτυξη της υπερνοημοσύνης.

Η λίστα των υπογραφόντων περιλαμβάνει επίσης πρωτοπόρους της τεχνητής νοημοσύνης, συμπεριλαμβανομένων επιστημόνων όπως ο Γιόσουα Μπένγκιο και ο Τζοφ Χίντον, οι οποίοι θεωρούνται ευρέως «νονοί» της σύγχρονης τεχνητής νοημοσύνης. Κορυφαίοι ερευνητές ασφάλειας της τεχνητής νοημοσύνης, όπως ο Στιούαρτ Ράσελ του UC Berkeley, υπέγραψαν επίσης.

Η υπερνοημοσύνη έχει γίνει μια λέξη-κλειδί στον κόσμο της τεχνητής νοημοσύνης, καθώς εταιρείες από την xAI έως την OpenAI ανταγωνίζονται για την κυκλοφορία πιο προηγμένων γλωσσικών μοντέλων. Η Meta έχει φτάσει στο σημείο να ονομάσει το τμήμα LLM της ως «Meta Superintelligence Labs».

Ωστόσο, οι υπογράφοντες της πρόσφατης δήλωσης προειδοποιούν ότι η προοπτική της υπερ-νοημοσύνης «εγείρει ανησυχίες, που κυμαίνονται από την οικονομική απαξίωση και αποδυνάμωση της ανθρώπινης φύσης, την απώλεια ελευθερίας, πολιτικών ελευθεριών, αξιοπρέπειας και ελέγχου, έως τους κινδύνους για την εθνική ασφάλεια, ακόμη και την πιθανή εξαφάνιση της ανθρώπινης φύσης».

Η δήλωση ζητά την απαγόρευση της ανάπτυξης υπερ-νοημοσύνης μέχρι να επιτευχθεί ισχυρή δημόσια αποδοχή και ευρεία επιστημονική συναίνεση ότι μπορεί να γίνει με ασφάλεια και έλεγχο. Εκτός από τους παράγοντες της Τεχνητής Νοημοσύνης, τα ονόματα πίσω από τη δήλωση ανήκουν σε έναν ευρύ συνασπισμό ακαδημαϊκών, προσωπικοτήτων των μέσων ενημέρωσης, θρησκευτικών ηγετών και πρώην πολιτικών.

Ανάμεσά τους ο πρώην πρόεδρος του Γενικού Επιτελείου Ενόπλων Δυνάμεων Mάικ Μίλεν, ο Πρίγκιπας Χάρι με τη σύζυγό του, Μέγκαν Μαρκλ, και πρώην σύμμαχοι του προέδρου των ΗΠΑ Ντόναλντ Τραμπ και συντηρητικοί παρουσιαστές, συμπεριλαμβανομένων των Στιβ Μπάνον και Γκλεν Μπεκ.

Η Σούζαν Ράις, πρώην σύμβουλος εθνικής ασφάλειας των ΗΠΑ υπό τον Μπαράκ Ομπάμα, η Ιρλανδή πρώην πρόεδρος Μαίρη Ρόμπινσον και ο Βρετανός συγγραφέας και παρουσιαστής Στίβεν Φράι υπογράφουν επίσης το μανιφέστο κατά της ΑΙ, όπως και οι βραβευμένοι με Νόμπελ Μπέατρις Φιν, Φρανκ Γουίλτσεκ, Τζον Μάδερ και Ντάρον Ατσέμογλου.

Η δήλωση, που απευθύνεται σε κυβερνήσεις, εταιρείες τεχνολογίας και νομοθέτες, διοργανώθηκε από το Ινστιτούτο Μέλλοντος της Ζωής (FLI), μια ομάδα ασφάλειας τεχνητής νοημοσύνης με έδρα τις ΗΠΑ, η οποία ζήτησε ένα διάλειμμα στην ανάπτυξη ισχυρών συστημάτων τεχνητής νοημοσύνης το 2023, λίγο μετά την εμφάνιση του ChatGPT που έκανε την τεχνητή νοημοσύνη ένα πολιτικό και δημόσιο θέμα συζήτησης σε όλο τον κόσμο.

Τον Ιούλιο, ο Μαρκ Ζάκερμπεργκ, διευθύνων σύμβουλος της μητρικής εταιρείας του Facebook, Meta, μιας από τις μεγάλες εταιρείες ανάπτυξης τεχνητής νοημοσύνης στις ΗΠΑ, δήλωσε ότι η ανάπτυξη της υπερ-νοημοσύνης είναι «τώρα στο προσκήνιο». Ωστόσο, ορισμένοι ειδικοί έχουν δηλώσει ότι η συζήτηση για την ASI αντικατοπτρίζει την ανταγωνιστική θέση μεταξύ των εταιρειών τεχνολογίας που ξοδεύουν εκατοντάδες δισεκατομμύρια δολάρια στην τεχνητή νοημοσύνη μόνο φέτος, αντί να βρίσκεται ο τομέας κοντά στην επίτευξη οποιωνδήποτε τεχνικών ανακαλύψεων.

Παρ 'όλα αυτά, το FLI αναφέρει ότι η προοπτική επίτευξης της ASI «την επόμενη δεκαετία» συνδέεται με μια σειρά από απειλές, που κυμαίνονται από την κατάργηση όλων των ανθρώπινων θέσεων εργασίας έως την εξαφάνιση της ανθρωπότητας. Οι υπαρξιακοί φόβοι για την Τεχνητή Νοημοσύνη επικεντρώνονται στην πιθανή ικανότητα ενός συστήματος να αποφεύγει τον ανθρώπινο έλεγχο και τις οδηγίες ασφαλείας και να ενεργοποιεί ενέργειες που αντιβαίνουν στα ανθρώπινα συμφέροντα.

Το FLI δημοσίευσε μια εθνική δημοσκόπηση στις ΗΠΑ που δείχνει ότι περίπου τα τρία τέταρτα των Αμερικανών επιθυμούν ισχυρή ρύθμιση της προηγμένης Τεχνητής Νοημοσύνης, με 6 στους 10 να πιστεύουν ότι η υπεράνθρωπη Τεχνητή Νοημοσύνη δεν πρέπει να δημιουργείται μέχρι να αποδειχθεί ασφαλής ή ελεγχόμενη. Η έρευνα σε 2.000 ενήλικες στις ΗΠΑ πρόσθεσε ότι μόνο το 5% υποστήριξε το status quo της γρήγορης, μη ρυθμιζόμενης ανάπτυξης.

Οι κορυφαίες εταιρείες Τεχνητής Νοημοσύνης στις ΗΠΑ, συμπεριλαμβανομένης της OpenAI του ChatGPT, και της Google, έχουν θέσει ως σαφή στόχο τους την ανάπτυξη της τεχνητής γενικής νοημοσύνης - τη θεωρητική κατάσταση όπου η Τεχνητή Νοημοσύνη ταιριάζει με τα ανθρώπινα επίπεδα νοημοσύνης στις περισσότερες γνωστικές εργασίες. Αν και αυτό είναι ένα επίπεδο κάτω από το ASI, ορισμένοι ειδικοί προειδοποιούν επίσης ότι θα μπορούσε να εγκυμονεί υπαρξιακό κίνδυνο, για παράδειγμα, επειδή είναι σε θέση να βελτιωθεί προς την επίτευξη επιπέδων υπερ-νοημοσύνης, ενώ παράλληλα εγκυμονεί μια έμμεση απειλή για τη σύγχρονη αγορά εργασίας.