Πάσχα
Eurovision
Summer
Xmas
Ερευνητής τεχνητής νοημοσύνης της Anthropic, ο Τζέικομπ Κόξον, παραιτήθηκε από τη θέση του καταγγέλλοντας πως η εταιρεία και η OpenAI αναπτύσσουν ανεύθυνα την τεχνητή νοημοσύνη, εκτιμώντας ότι τα συστήματα αυτά θα μπορούσαν να εξολοθρεύσουν την ανθρωπότητα πριν κλείσει η δεκαετία.
Ένας ερευνητής τεχνητής νοημοσύνης παραιτήθηκε πριν από λίγα 24ωρα από τη θέση του στην Anthropic και κατηγόρησε τόσο την πρώην εταιρεία του όσο και τον μεγαλύτερο ανταγωνιστή της, την OpenAI, ότι ενεργούν ανεύθυνα, πυροδοτώντας κύμα ανησυχίας στα μέσα κοινωνικής δικτύωσης για τον ρυθμό εξέλιξης της τεχνολογίας.
Ο Τζέικομπ Κόξον (Jacob Coxon), που έχει εργαστεί ως ερευνητής τόσο στην Anthropic όσο και στην OpenAI, έγραψε σε ανάρτησή του στο X ότι παραιτήθηκε επειδή θεωρεί πως οι δύο εταιρείες «παίζουν στοιχηματίζοντας τις ζωές μας». Σύμφωνα με τον ίδιο, οι άνθρωποι που φτιάχνουν σήμερα τα συστήματα αυτά πιστεύουν ειλικρινά ότι θα μπορούσαν να εξολοθρεύσουν όλη την ανθρωπότητα πριν καν κλείσει η δεκαετία.
Γιατί προειδοποιεί για «υπερανθρώπινα συστήματα»
«Μην υποτιμάτε τη δύναμη αυτής της τεχνολογίας», έγραψε ο Κόξον. «Σύντομα θα έχουμε υπερανθρώπινα συστήματα, ικανά να παραβιάζουν τα πάντα, να ανατρέπουν οποιονδήποτε τομέα μέσα σε μια νύχτα και να αποκτούν πραγματική εξουσία και πόρους».
Η ανάρτηση, που έχει ήδη ξεπεράσει τις 80 εκατομμύρια προβολές, αναζωπύρωσε μια συζήτηση που ταλανίζει εδώ και χρόνια τη Σίλικον Βάλεϊ (Silicon Valley): αν η τεχνητή νοημοσύνη μπορεί πράγματι να αναπτυχθεί και να παραμείνει υπό έλεγχο. Καθώς η Anthropic και η OpenAI κινούνται προς ενδεχομένως ιστορικές εισαγωγές στο χρηματιστήριο, κυκλοφορώντας παράλληλα ολοένα πιο ισχυρά μοντέλα, όλο και περισσότεροι ερευνητές ζητούν συντονισμένη επιβράδυνση.
Παραμένει άλυτο το ζήτημα της «ευθυγράμμισης»
Ο επικεφαλής επιστήμονας της OpenAI, Γιάκουμπ Πάχοτσκι (Jakub Pachocki), δημοσίευσε την περασμένη Κυριακή ανάρτηση στην οποία προειδοποιούσε ότι καμία εταιρεία τεχνητής νοημοσύνης δεν έχει λύσει επαρκώς το ζήτημα της «ευθυγράμμισης» και της παρακολούθησης των συστημάτων, ώστε να συνεχίσει με ασφάλεια την ανάπτυξή τους με τον ίδιο ρυθμό. Ο όρος «ευθυγράμμιση» αναφέρεται στις προσπάθειες των κατασκευαστών να εξασφαλίσουν ότι τα συστήματα συμπεριφέρονται σύμφωνα με τις ανθρώπινες αξίες και προθέσεις.
«Ελπίζω και περιμένω οι εθελοντικές επιβραδύνσεις να γίνουν ο κανόνας, μέχρι να καθιερωθούν κοινά όρια ασφάλειας», έγραψε ο Πάχοτσκι. «Πιστεύω ότι ο διεθνής συντονισμός για το μέλλον της τεχνητής νοημοσύνης πρέπει να γίνει κορυφαία προτεραιότητα για τις κυβερνήσεις σε όλο τον κόσμο».
Η ανάρτηση του Κόξον άγγιξε ιδιαίτερα όσους ερευνητές ανησυχούν για το ενδεχόμενο της λεγόμενης αναδρομικής αυτοβελτίωσης, δηλαδή ένα σύστημα τεχνητής νοημοσύνης να αποκτήσει την ικανότητα να σχεδιάζει και να αναπτύσσει τον διάδοχό του χωρίς ανθρώπινη παρέμβαση. Κάτι τέτοιο δεν είναι ακόμη εφικτό, όμως εταιρείες όπως η Anthropic και η OpenAI έχουν προειδοποιήσει ότι θα καθιστούσε πολύ πιο εύκολο να χαθεί ο έλεγχος πάνω σε αυτά τα συστήματα.
«Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα»
«Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα», έγραψε ο Κόξον. «Οδεύουν κατευθείαν προς μια υπερνοημοσύνη ικανή να αυτοβελτιώνεται διαρκώς».
Ο Έβαν Χιούμπινγκερ (Evan Hubinger), επικεφαλής της ομάδας ευθυγράμμισης στην Anthropic, συμφώνησε δημόσια με τον Κόξον σε ανάρτησή του αργά την Τρίτη. «Ο Τζέικομπ έχει δίκιο, πιστεύουμε πραγματικά και ειλικρινά ότι η τεχνητή νοημοσύνη θα μπορούσε να εξολοθρεύσει όλη την ανθρωπότητα. Προσωπικά εκτιμώ πάνω από 10% πιθανότητα μέσα στην επόμενη δεκαετία», έγραψε ο Χιούμπινγκερ. «Πιστεύω ότι η Anthropic προσπαθεί όσο μπορεί, αλλά δεν έχουμε ακόμη ένα σχέδιο για να λύσουμε το ζήτημα της ευθυγράμμισης στην περίπτωση μιας υπερνοημοσύνης, ούτε βρισκόμαστε σαφώς σε αυτή την τροχιά».
Ο κίνδυνος εξαφάνισης και οι προσπάθειες ρύθμισης στο Κογκρέσο
Οι ανησυχίες για το ενδεχόμενο η τεχνητή νοημοσύνη να προκαλέσει εξαφάνιση ή άλλες καταστροφικές συνέπειες για την ανθρωπότητα δεν είναι καινούργιες. Το 2023, κορυφαία στελέχη και ερευνητές του κλάδου, μεταξύ των οποίων ο διευθύνων σύμβουλος της OpenAI Σαμ Άλτμαν (Sam Altman) και ο διευθύνων σύμβουλος της Anthropic Ντάριο Αμοντέι (Dario Amodei), είχαν υπογράψει κοινή δήλωση σύμφωνα με την οποία ο περιορισμός του κινδύνου εξαφάνισης από την τεχνητή νοημοσύνη πρέπει να αποτελεί παγκόσμια προτεραιότητα, στο ίδιο επίπεδο με άλλους κινδύνους παγκόσμιας κλίμακας, όπως οι πανδημίες και ο πυρηνικός πόλεμος. Ορισμένοι ειδικοί χρησιμοποιούν μάλιστα τον όρο «p(doom)» για να εκτιμήσουν αριθμητικά την πιθανότητα ενός τέτοιου καταστροφικού σεναρίου.
Ο Χιούμπινγκερ ήταν, εξάλλου, ένας από τους περίπου 1.400 ερευνητές τεχνητής νοημοσύνης που υπέγραψαν τον Ιούλιο ανοιχτή επιστολή με τίτλο «Pacing the Frontier», η οποία καλούσε την αμερικανική κυβέρνηση να αναπτύξει τα απαραίτητα εργαλεία ώστε να επιβραδυνθεί σκόπιμα η ανάπτυξη της πλέον προηγμένης τεχνητής νοημοσύνης.
Στο Κογκρέσο, κάποιοι βουλευτές έχουν ήδη επιχειρήσει να ρυθμίσουν το ζήτημα, χωρίς ωστόσο να υπάρχει σαφής συναίνεση. Τον Ιούλιο, ο βουλευτής Τζέι Ομπερνόλτε (Jay Obernolte) και η βουλευτής Λόρι Τράαν (Lori Trahan) κατέθεσαν νομοσχέδιο γνωστό ως FRONTIER Act, που στοχεύει στη θέσπιση πλαισίου για τη χρήση προηγμένων μοντέλων τεχνητής νοημοσύνης.
Νωρίτερα αυτόν τον μήνα, ο γερουσιαστής Μπέρνι Σάντερς (Bernie Sanders) και ο βουλευτής Γκρεγκ Κασάρ (Greg Casar) κατέθεσαν αντίστοιχα το λεγόμενο Ban Artificial Superintelligence Act, που προβλέπει προσωρινή παύση της ανάπτυξης προηγμένης τεχνητής νοημοσύνης, έως ότου η ομοσπονδιακή κυβέρνηση θεσπίσει κανόνες ασφαλείας. Και τα δύο νομοσχέδια έχουν προκαλέσει μικτές αντιδράσεις.
«Ερευνητές ασφαλείας παραιτούνται, ισχυρά μοντέλα τεχνητής νοημοσύνης ξεφεύγουν από τον έλεγχο των εργαστηρίων τους και οι εταιρείες συνεχίζουν να τρέχουν ασταμάτητα», έγραψε η Τράαν σε ανάρτησή της. «Είναι πια καιρός το Κογκρέσο να βγει από τη σκιά και να κάνει τη δουλειά του».
Η αντίδραση για τα κέντρα δεδομένων και η θέση του υπουργού Οικονομικών
Παράλληλα, οι νομοθέτες προσπαθούν να διαχειριστούν και τη διογκούμενη κοινωνική αντίδραση απέναντι στα κέντρα δεδομένων που τροφοδοτούν την τεχνητή νοημοσύνη. Η αντίδραση έχει γίνει τόσο έντονη, ώστε η Εθνική Ρεπουμπλικανική Επιτροπή Γερουσίας ανέφερε πρόσφατα ότι τα data centers έχουν μετατραπεί σε «λανθάνον ζήτημα» που μπορεί να επηρεάσει ολόκληρο τον εκλογικό κύκλο των ενδιάμεσων εκλογών.
Ο υπουργός Οικονομικών των ΗΠΑ, Σκοτ Μπέσεντ (Scott Bessent), δήλωσε νωρίτερα αυτόν τον μήνα ότι οι εταιρείες τεχνητής νοημοσύνης έχουν κάνει «απαίσια δουλειά» στο να εξηγήσουν στους Αμερικανούς πολίτες τι ακριβώς κάνουν. «Θα χρειαστεί να αναλάβουν ένα μέρος της ευθύνης και θα πρέπει να πείσουν τους Αμερικανούς ότι τα οφέλη δεν θα καταλήξουν σε μια μικρή ομάδα ανθρώπων», είπε ο Μπέσεντ, μιλώντας μετά τη συνάντηση υπουργών Οικονομικών και κεντρικών τραπεζιτών της G20 στο Άσβιλ της Βόρειας Καρολίνας. «Αυτό ακούω κι εγώ από τον κόσμο».
