«Καμπανάκι» από πρωτοπόρος της τεχνητής νοημοσύνης, ο οποίος επέκρινε τις εκκλήσεις για παραχώρηση δικαιωμάτων στην τεχνολογία, προειδοποιώντας ότι αυτή παρουσιάζει σημάδια αυτοσυντήρησης και πως οι άνθρωποι θα πρέπει να είναι έτοιμοι να «τραβήξουν την πρίζα» εάν χρειαστεί.

Ο Γιόσουα Μπέντζιο ανέφερε ότι η απόδοση νομικού καθεστώτος σε προηγμένες τεχνητές νοημοσύνες θα ήταν ανάλογη με την παροχή υπηκοότητας σε εχθρικούς εξωγήινους, εν μέσω φόβων ότι η πρόοδος της τεχνολογίας ξεπερνά κατά πολύ την ικανότητα περιορισμού της.

Ο Μπέντζιο, πρόεδρος μίας κορυφαίας διεθνούς μελέτης για την ασφάλεια της τεχνητής νοημοσύνης, ανέφερε πως η αυξανόμενη αντίληψη ότι τα chatbots γίνονται συνειδητά πρόκειται να «οδηγήσει σε λανθασμένες αποφάσεις».

Ο Καναδός επιστήμονας υπολογιστών εξέφρασε επίσης την ανησυχία ότι τα μοντέλα τεχνητής νοημοσύνης –η τεχνολογία που υποστηρίζει «εργαλεία» όπως τα chatbots– παρουσιάζουν σημάδια αυτοσυντήρησης, όπως τη συνθήκη να προσπαθούν να απενεργοποιήσουν τα συστήματα επίβλεψης.

Μία βασική ανησυχία μεταξύ των ακτιβιστών για την ασφάλεια της τεχνητής νοημοσύνης είναι ότι τα ισχυρά συστήματα θα μπορούσαν να αναπτύξουν την ικανότητα να αποφεύγουν τις δικλείδες ασφαλείας και να βλάπτουν τους ανθρώπους.

«Οι άνθρωποι που απαιτούν οι μηχανές τεχνητής νοημοσύνης να έχουν δικαιώματα, θα έκαναν ένα τεράστιο λάθος. Τα μοντέλα αιχμής δείχνουν ήδη σημάδια αυτοσυντήρησης σε πειραματικά περιβάλλοντα σήμερα και η τελική παραχώρηση δικαιωμάτων σε αυτά θα σήμαινε ότι δεν θα μας επιτρέπεται να τα κλείνουμε», σχολίασε.

«Καθώς οι δυνατότητες και ο βαθμός δράσης τους μεγαλώνουν, πρέπει να βεβαιωθούμε ότι μπορούμε να βασιστούμε σε τεχνικές και κοινωνικές δικλείδες ασφαλείας για να τα ελέγχουμε, συμπεριλαμβανομένης της ικανότητας να τα κλείνουμε εάν χρειαστεί», προσέθεσε.

Ενόσω τα «εργαλεία» γίνονται προηγμένα στην ικανότητα να ενεργούν αυτόνομα και να εκτελούν εργασίες «συλλογιστικής», έχει αναπτυχθεί μία συζήτηση σχετικά με το ερώτημα «αν οι άνθρωποι θα πρέπει, σε κάποιο σημείο, να τους παραχωρήσουν δικαιώματα;».

Δημοσκόπηση από το Ινστιτούτο Sentience, ένα αμερικανικό Think Tank που υποστηρίζει τα ηθικά δικαιώματα όλων των όντων με αισθήσεις, διαπίστωσε ότι σχεδόν 4 στους 10 ενήλικες στις Ηνωμένες Πολιτείες υποστήριξαν νομικά δικαιώματα για ένα σύστημα τεχνητής νοημοσύνης με συνείδηση.

Η Anthropic, μία κορυφαία αμερικανική εταιρεία τεχνητής νοημοσύνης, ανέφερε τον Αύγουστο ότι επέτρεπε στο μοντέλο της, Claude Opus 4, να τερματίζει πιθανώς «δυσάρεστες» συνομιλίες με χρήστες, λέγοντας ότι έπρεπε να προστατεύσει την «ευημερία» της τεχνητής νοημοσύνης. Ο Ίλον Μασκ, του οποίου η εταιρεία xAI έχει αναπτύξει το chatbot με το όνομα Γκροκ, έγραψε στο Χ ότι «ο βασανισμός της τεχνητής νοημοσύνης δεν είναι OK».

Ο Ρόμπερτ Λονγκ, ερευνητής σε θέματα συνείδησης της τεχνητής νοημοσύνης, σημείωσε ότι «εάν και όταν οι τεχνητές νοημοσύνες αναπτύξουν ηθική υπόσταση, θα πρέπει να τις ρωτάμε για τις εμπειρίες και τις προτιμήσεις τους αντί να υποθέτουμε ότι εμείς ξέρουμε καλύτερα».

Ο Μπέντζιο τόνισε στον Guardian ότι υπήρχαν «πραγματικές επιστημονικές ιδιότητες συνείδησης» στον ανθρώπινο εγκέφαλο που οι μηχανές θα μπορούσαν, θεωρητικά, να αναπαράγουν, αλλά οι άνθρωποι που αλληλεπιδρούν με τα chatbots είναι «διαφορετικό πράγμα». Ακόμη, είπε ότι αυτό οφείλεται στο γεγονός ότι οι άνθρωποι τείνουν να υποθέτουν –χωρίς αποδείξεις– ότι ένα μποτάκι τεχνητής νοημοσύνης έχει πλήρη συνείδηση όπως ακριβώς ένας άνθρωπος.

«Ο κόσμος δεν θα ενδιαφερόταν για το είδος των μηχανισμών που λειτουργούν μέσα στην τεχνητή νοημοσύνη. Αυτό που τους ενδιαφέρει, είναι πως νιώθουν ότι μιλούν με μία έξυπνη οντότητα, που έχει τη δική της προσωπικότητα και στόχους. Αυτός είναι ο λόγος για τον οποίο υπάρχουν τόσοι πολλοί άνθρωποι που δένονται με τα chatbots τους», προσέθεσε.

«Θα υπάρχουν άνθρωποι που θα λένε πάντα: “Ό,τι και να μου πεις, είμαι σίγουρος ότι έχει συνείδηση” και άλλοι που θα λένε το αντίθετο. Αυτό συμβαίνει επειδή η συνείδηση είναι κάτι για το οποίο έχουμε ένα ένστικτο. Το φαινόμενο της υποκειμενικής αντίληψης της συνείδησης πρόκειται να οδηγήσει σε κακές αποφάσεις. Φανταστείτε κάποιο εξωγήινο είδος να ερχόταν στον πλανήτη και κάποια στιγμή να συνειδητοποιούσαμε ότι έχουν κακόβουλες προθέσεις για εμάς. Τους παραχωρούμε υπηκοότητα και δικαιώματα ή υπερασπιζόμαστε τη ζωή μας;», σχολίασε.

Ο Μπέντζιο, καθηγητής στο Πανεπιστήμιο του Μόντρεαλ, κέρδισε το προσωνύμιο «Νονός της τεχνητής νοημοσύνης» μετά τη νίκη στο βραβείο Turing το 2018, το οποίο θεωρείται το αντίστοιχο του βραβείου Νόμπελ για την Πληροφορική. Το μοιράστηκε με τον Τζέφρι Χίντον, ο οποίος αργότερα κέρδισε Νόμπελ και τον Γιάν ΛεΚάν, τον απερχόμενο επικεφαλής επιστήμονα τεχνητής νοημοσύνης στη Meta του Μαρκ Ζάκερμπεργκ.