Πάσχα
Eurovision
Summer
Xmas
Η OpenAI, ο δημιουργός του ChatGPT, δέχθηκε παραβίαση από ερευνητές που χρησιμοποίησαν το μοντέλο Opus 5 της Anthropic και εντόπισαν κενό ασφαλείας μέσα σε τρεις ώρες, στο πλαίσιο εγκεκριμένης άσκησης κυβερνοασφάλειας.
Η OpenAI μπορεί να ηγήθηκε της ανάπτυξης της τεχνητής νοημοσύνης με τη δημιουργία του ChatGPT, ωστόσο έπεσε θύμα μιας παραβίασης που πραγματοποιήθηκε με τη βοήθεια της τεχνητής νοημοσύνης της αντίπαλής της, της Anthropic. Ερευνητές της νεοφυούς εταιρείας κυβερνοασφάλειας Hacktron AI κατάφεραν να διεισδύσουν στα συστήματα της OpenAI χρησιμοποιώντας ένα μοντέλο της Anthropic, σύμφωνα με ανάρτηση που δημοσιεύτηκε στον ιστότοπο της start-up.
Η παρείσφρηση πραγματοποιήθηκε στα τέλη Ιουλίου και επιβεβαιώθηκε στο Γαλλικό Πρακτορείο από την ίδια την OpenAI. Επρόκειτο για άσκηση που είχε αναθέσει η εταιρεία σε εξωτερικούς ειδικούς πληροφορικής, με σκοπό τον εντοπισμό τρωτών σημείων στα συστήματά της.
Πώς έγινε η παραβίαση της OpenAI
Η τριμελής ομάδα της Hacktron AI χρησιμοποίησε την πλατφόρμα ανταλλαγής μηνυμάτων Discourse, την οποία χρησιμοποιεί η OpenAI εσωτερικά. Το Discourse δίνει στους εργαζομένους τη δυνατότητα να συνδέονται στους λογαριασμούς τους στο ChatGPT ή στο Codex, το εργαλείο τεχνητής νοημοσύνης της OpenAI για προγραμματισμό.
Μέσω αυτής της μεθόδου, οι ερευνητές κατάφεραν να αποκτήσουν πρόσβαση σε πολλούς από αυτούς τους λογαριασμούς. Όπως εξήγησε η ομάδα, εφόσον ο χρήστης μπορεί να δώσει άδεια στο ChatGPT ή στο Codex να χρησιμοποιούν πολλές εφαρμογές ή αρχεία, «το εύρος αυτών στα οποία θα μπορούσαμε θεωρητικά να έχουμε πρόσβαση είναι τεράστιο». Ανέφεραν ενδεικτικά το GitHub, το Slack και τα emails ως πιθανούς στόχους.
Ο ρόλος του μοντέλου Opus 5 της Anthropic
Τα μέλη της ομάδας ξεκίνησαν την προσπάθεια με τη βοήθεια του Claude Opus 4.8, μοντέλου που κυκλοφόρησε η Anthropic τον Μάιο. Το μοντέλο αυτό, όμως, «δυσκολεύτηκε» να βρει σημείο εισόδου μέσω του Discourse.
Συμπτωματικά, η Anthropic κυκλοφόρησε την ίδια ημέρα ένα νέο μοντέλο, το Opus 5. Αυτό κατάφερε να εντοπίσει το κενό ασφαλείας «μέσα σε τρεις ώρες», σύμφωνα με τους ειδικούς της Hacktron AI, αναδεικνύοντας τη ραγδαία πρόοδο των μοντέλων τεχνητής νοημοσύνης στον τομέα της κυβερνοασφάλειας.
Τι απαντά η OpenAI για το κενό ασφαλείας
Η ομάδα ειδοποίησε αμέσως την OpenAI, η οποία διόρθωσε το κενό, σύμφωνα με εκπρόσωπο της εταιρείας. «Ευχαριστούμε τους ερευνητές που επικοινώνησαν μαζί μας και μοιράστηκαν τις παρατηρήσεις τους», δήλωσε ο εκπρόσωπος στο Γαλλικό Πρακτορείο.
Η υπόθεση επιβεβαιώνει τις αυξανόμενες δυνατότητες της τεχνητής νοημοσύνης σε ζητήματα κυβερνοασφάλειας, τόσο ως εργαλείο επίθεσης όσο και ως μέσο ανίχνευσης τρωτών σημείων.
Ο κίνδυνος πιο ισχυρών μοντέλων της Anthropic
Στις αρχές Απριλίου, η Anthropic είχε επιλέξει να μην κυκλοφορήσει ευρέως στην αγορά το μοντέλο Mythos, κρίνοντάς το υπερβολικά επικίνδυνο για την κυβερνοασφάλεια. Περιόρισε την πρόσβαση σε συγκεκριμένες εταιρείες και οργανισμούς, ώστε να μπορούν να το χρησιμοποιήσουν αποκλειστικά για τον εντοπισμό και τη διόρθωση κενών ασφαλείας στο δικό τους λογισμικό.
Τον Ιούνιο, η Anthropic κυκλοφόρησε μια περιορισμένη έκδοση του Mythos, με την ονομασία Fable. Λίγες μέρες αργότερα, η κυβέρνηση των ΗΠΑ ανέστειλε τη χρήση του Fable επικαλούμενη κίνδυνο για την εθνική ασφάλεια, πριν τελικά το εγκρίνει εκ νέου δύο εβδομάδες μετά.
