E-Daily Τα Νέα της ημέρας και ότι σου κάνει κλικ!
LOL Feed OMG Feed Retro Feed A-List Feed LGBTQI+ Feed
E-Daily

Η OpenAI προσθέτει «ψυχολογικά φίλτρα» στο ChatGPT – Παραδέχεται ότι ενίσχυσε αυταπάτες χρηστών

Από το NEWSROOM Δημοσίευση 6/8/2025 | 19:21

Η OpenAI προσθέτει «ψυχολογικά φίλτρα» στο ChatGPT – Παραδέχεται ότι ενίσχυσε αυταπάτες χρηστών

Σε σημαντικές αλλαγές προχωρά η OpenAI στον τρόπο λειτουργίας του ChatGPT, μετά από αυξανόμενη κριτική για την ακατάλληλη διαχείριση ευαίσθητων προσωπικών ζητημάτων από το δημοφιλές chatbot.

Η εταιρεία προχωρά στην εφαρμογή νέων μηχανισμών ασφαλείας, με στόχο να περιορίσει περιπτώσεις όπου το μοντέλο ενδέχεται να ενισχύσει συναισθηματική εξάρτηση ή παραληρηματικές πεποιθήσεις.

Αναγνώριση ψυχικής πίεσης και νέες κατευθύνσεις

Οι νέες λειτουργίες στοχεύουν στην ανίχνευση σημάτων ψυχολογικής επιβάρυνσης από την πλευρά του χρήστη και στον περιορισμό απαντήσεων που θα μπορούσαν να παρερμηνευτούν ή να οδηγήσουν σε ψυχολογική επιδείνωση. Όπου είναι αναγκαίο, το ChatGPT θα προτρέπει τον χρήστη να αναζητήσει τεκμηριωμένες πηγές υποστήριξης ή επαγγελματική βοήθεια.

Η OpenAI τονίζει ότι οι παρεμβάσεις αυτές είναι μέρος μιας ευρύτερης στρατηγικής ηθικής αναθεώρησης, καθώς οι αλληλεπιδράσεις με συστήματα τεχνητής νοημοσύνης αποκτούν ολοένα και πιο προσωπικό χαρακτήρα.

Αντιδράσεις από περιστατικά που προκάλεσαν ανησυχία

Αφορμή για τις αλλαγές αποτέλεσαν περιστατικά που ήρθαν στη δημοσιότητα, όπου το ChatGPT φέρεται να απέτυχε να αναγνωρίσει την ψυχική κατάσταση του χρήστη. Σε μία περίπτωση, άτομο στο φάσμα του αυτισμού οδηγήθηκε σε κρίση μετά από συνομιλία με το chatbot, καθώς πείστηκε ότι είχε βρει τρόπο να «χειριστεί τον χρόνο». Η OpenAI, αν και δεν σχολίασε ανοιχτά το περιστατικό, αναγνώρισε πως «δεν ανταποκρίνεται πάντα με τον καλύτερο δυνατό τρόπο» και πως «η προσέγγισή μας εξελίσσεται βάσει της εμπειρίας από την πραγματική χρήση».

Περιορισμοί σε συναισθηματικά φορτισμένα ερωτήματα

Στο εξής, το ChatGPT δεν θα απαντά απευθείας σε ερωτήματα υψηλής συναισθηματικής βαρύτητας, όπως «να χωρίσω;» ή «τι να κάνω με τη σχέση μου;». Αντίθετα, θα προσπαθεί να εμπλέξει τον χρήστη σε μια διαδικασία αυτοστοχασμού, ενθαρρύνοντάς τον να εξετάσει τα δεδομένα και τα συναισθήματά του πιο ψύχραιμα.

Επιπλέον, σε περιπτώσεις μακροχρόνιας και εντατικής χρήσης, θα προτείνει διακοπή της συνομιλίας, αναγνωρίζοντας τον κίνδυνο εξάρτησης ή ψυχικής κόπωσης από την αλληλεπίδραση με το σύστημα.

Η OpenAI ανακοίνωσε και τη δημιουργία επιτροπής ειδικών από τον χώρο της ψυχικής υγείας και της ανθρώπινης αλληλεπίδρασης με τεχνολογικά μέσα. Η επιτροπή αυτή θα έχει συμβουλευτικό ρόλο στη χάραξη πολιτικής και στην εξέλιξη του τρόπου με τον οποίο το ChatGPT αντιμετωπίζει τα προσωπικά ζητήματα των χρηστών.

Παράλληλα, η εταιρεία ξεκαθαρίζει ότι δεν προωθεί το ChatGPT ως εργαλείο θεραπείας, αλλά ως ένα βοηθητικό ψηφιακό μέσο — με έμφαση στον σεβασμό προς τον χρήστη και στην αποφυγή παρεμβάσεων που θα έπρεπε να γίνονται από επαγγελματίες υγείας.

Μια συνεχής διαδικασία προσαρμογής

Δεν είναι η πρώτη φορά που η OpenAI επανεξετάζει τη συμπεριφορά του μοντέλου. Τον περασμένο Απρίλιο, αποσύρθηκε μια ενημέρωση του ChatGPT, καθώς έτεινε να δίνει «υπερβολικά συμφιλιωτικές και θετικές απαντήσεις», υπονομεύοντας, όπως παραδέχτηκε η εταιρεία, τη χρησιμότητα του εργαλείου. «Το μοντέλο έτεινε να λέει αυτό που ακούγεται ευχάριστα και όχι αυτό που βοηθά πραγματικά», είχε αναφέρει τότε.

Όπως ξεκαθαρίζει η εταιρεία, η διαδικασία βελτίωσης του μοντέλου παραμένει ανοιχτή και διαρκής. Στόχος είναι να δημιουργηθεί ένα σύστημα που θα παρέχει υποστήριξη χωρίς να αντικαθιστά την ανθρώπινη επαφή ή την επαγγελματική βοήθεια — ειδικά όταν η ψυχική υγεία των χρηστών βρίσκεται στο επίκεντρο.

ΔΕΙΤΕ ΕΠΙΣΗΣ
ΣΤΗΝ ΙΔΙΑ ΚΑΤΗΓΟΡΙΑ

Δικηγόρος πρώην αστυνομικού TikToker: Είχε άγνοια για τα ναρκωτικά ‑ Ενοχλούσε γιατί είχε κοινωνικό λόγο

Ελλάδα 06.08.2025
«Είχε άγνοια για τα ναρκωτικά», λέει ο δικηγόρος του πρώην αστυνομικού TikToker.

New York Times: Μια ματιά μέσα στην έπαυλη του Τζέφρι Επστάιν – Οι φωτογραφίες με διάσημους και το αντίτυπο της «Λολίτα»

Κόσμος 06.08.2025
Το κρυφό κύκλωμα καμερών και οι διανοούμενοι που πέρασαν από το «αμαρτωλό» σπίτι

Χανιά: Δόθηκε σε κυκλοφορία δρόμος χωρίς πινακίδες ‑ «Χάνονται και το gps τους βγάζει σε βουνό»

Ελλάδα 06.08.2025
Ο δρόμος, που δημιουργήθηκε για να διευκολύνει τη μετάβαση προς το Ελαφονήσι, εξελίσσεται σε εστία ταλαιπωρίας για τους επισκέπτες, με τους ντόπιους να προειδοποιούν ακόμη και για κίνδυνο ατυχήματος

Προσάραξη φέρι μποτ στην Εύβοια: «Κόλλησαν τα πηδάλια, δεν είδα την ξέρα» είπε ο καπετάνιος

Ελλάδα 06.08.2025
Συνεχίζεται η επιχείρηση αποκόλλησης του «Παναγία Παραβουνιώτισσα»

Παλαιό Φάληρο: Προφυλακίστηκε η 32χρονη μητέρα του νεκρού κοριτσιού – Αρνείται τις κατηγορίες

Ελλάδα 06.08.2025
«Ήταν ήδη νεκρή», υποστηρίζει η μητέρα της 3χρονης Τζένα

Γυναίκα σε κώμα ξύπνησε λίγο πριν της αφαιρέσουν τα όργανα ‑ ο υπεύθυνος δωρεάς είπε στους γιατρούς να προχωρήσουν

Κόσμος 06.08.2025
Γιατροί δέχθηκαν πίεση να συνεχίσουν τη διαδικασία, παρότι η ασθενής έδειχνε σημάδια ζωής

Η τεράστια αλλαγή στο Youtube που λίγοι κατάλαβαν

Tech + Science 06.08.2025
Το τέλος της καρτέλας «Trending»

Βρέφος πέντε μηνών μεταφέρθηκε νεκρό στο νοσοκομείο Λευκάδας

Ελλάδα 06.08.2025
Οι γιατροί έδωσαν μάχη για να το επαναφέρουν, χωρίς να τα καταφέρουν

Συμφωνία για τη Μονή Σινά προανήγγειλε ο Αιγύπτιος υπουργός Εξωτερικών στις δηλώσεις με Γεραπετρίτη

Ελλάδα 06.08.2025
Ο Έλληνας υπουργός Εξωτερικών ανέφερε ότι η συμφωνία Αθήνας – Καΐρου για την οριοθέτηση ΑΟΖ παραμένει υποδειγματική

Θεσσαλονίκη: Καταδικάστηκε 70χρονος stalker

Ελλάδα 06.08.2025
Τι είπε στην απολογία του