Ο μεγαλύτερος φόβος για την κατάρρευση του ανθρώπινου πολιτισμού δεν προέρχεται πια από κάποια εξωτερική απειλή — έναν μετεωρίτη, μια ηφαιστειακή έκρηξη, έναν θανατηφόρο ιό ή ακόμη και εξωγήινους εισβολείς — αλλά από τα ίδια τα εργαστήρια που διαμορφώνουν αυτό που πολλοί αποκαλούν το μέλλον μας.

Η Anthropic, η εταιρεία που βρίσκεται πίσω από το ισχυρό μοντέλο τεχνητής νοημοσύνης Claude, παραδέχεται ανοιχτά ότι η τεχνολογία της είναι τόσο επικίνδυνη που θα μπορούσε να οδηγήσει σε ολοκληρωτική καταστροφή.

Σε μια κίνηση που αιφνιδιάζει τους παρατηρητές του κλάδου, η startup της Silicon Valley άνοιξε 32 εξαιρετικά ευαίσθητες θέσεις εργασίας, αναζητώντας ειδικούς στα όπλα μαζικής καταστροφής. Στόχος είναι να θωρακίσει τα συστήματά της πριν αυτά αξιοποιηθούν για τον σχεδιασμό πυρηνικών επιθέσεων, την κατασκευή εκρηκτικών ή τη διασπορά θανατηφόρων βιολογικών παραγόντων.

Το σαμποτάζ εκ των έσω

Οι περιγραφές των θέσεων εργασίας αποκαλύπτουν τον φόβο που επικρατεί πίσω από τις κλειστές πόρτες της εταιρείας. Η Anthropic αναζητά αναλυτές επιβολής πολιτικής με εξειδικευμένες γνώσεις σε ραδιολογικά και πυρηνικά όπλα, προσφέροντας ετήσιες αμοιβές που ξεπερνούν τις 250.000 δολάρια. Οι συγκεκριμένοι επιστήμονες δεν θα ασχολούνται με τη συγγραφή κώδικα, αλλά θα πρέπει να σκέφτονται ακριβώς όπως ένας τρομοκράτης που επιχειρεί να παρακάμψει τα ψηφιακά φίλτρα ασφαλείας.

Καλούνται να υποβάλουν το Claude σε ακραία stress tests, προσπαθώντας να αποσπάσουν από το σύστημα οδηγίες για την κατασκευή βομβών. Ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, έχει προειδοποιήσει επανειλημμένα για τον κίνδυνο βιολογικών επιθέσεων που θα μπορούσαν να προκαλέσουν εκατομμύρια θύματα μέσα σε λίγα χρόνια, αν η τεχνητή νοημοσύνη αφεθεί χωρίς έλεγχο.

Η ιδιωτικοποίηση του ολέθρου

Η δραματική προσπάθεια της εταιρείας να συγκρατήσει το ίδιο της το δημιούργημα αναδεικνύει μια ανησυχητική πραγματικότητα. Την ίδια ώρα που η OpenAI προσφέρει έως και 445.000 δολάρια για αντίστοιχους ερευνητές βιολογικών κινδύνων, οι κυβερνήσεις σε όλο τον κόσμο παραμένουν απλοί θεατές.

Όπως φαίνεται να προκύπτει, η παγκόσμια ασφάλεια δεν εξαρτάται πλέον από κρατικές υπηρεσίες ή διεθνείς συνθήκες, αλλά από την ικανότητα μερικών ιδιωτικών κολοσσών να βάλουν φρένο στα δικά τους προϊόντα.