Δικηγόρος χρησιμοποίησε ChatGPT και κατέθεσε ανύπαρκτους μάρτυρες στο δικαστήριο

Ο δικηγόρος Στίβεν Άαρονς (Steven Aarons) κλήθηκε να πληρώσει πρόστιμο 5.000 δολαρίων στις ΗΠΑ, αφού χρησιμοποίησε το ChatGPT για να συντάξει έφεση με ψεύτικες καταθέσεις αστυνομικών και ανύπαρκτων μαρτύρων, όπως έκρινε το Ανώτατο Δικαστήριο του Νέου Μεξικού.

Ο δικηγόρος Στίβεν Άαρονς (Steven Aarons) βρέθηκε αντιμέτωπος με πρόστιμο 5.000 δολαρίων από το Ανώτατο Δικαστήριο του Νέου Μεξικού, αφού χρησιμοποίησε το ChatGPT της OpenAI για να συντάξει έφεση που περιείχε ψευδείς καταθέσεις αστυνομικών και εντελώς ανύπαρκτων μαρτύρων. Το δικαστήριο τον έκρινε ένοχο για ασέβεια, κρίνοντας ότι επέδειξε «αδιαφορία» απέναντι στον πελάτη του επειδή δεν φρόντισε να εξακριβώσει την αλήθεια όσων υπέβαλε.

Ο Άαρονς είχε αναλάβει την έφεση του Όσκαρ Ρενέ Σαντοβάλ (Oscar Rene Santoval), ο οποίος έχει δηλώσει αθώος για τη δολοφονία της μητέρας των παιδιών του, αλλά καταδικάστηκε πέρυσι σε ισόβια κάθειρξη. Στις αρχές Σεπτεμβρίου διορίστηκε νέα δικηγόρος για τον Σαντοβάλ, η δημόσια συνήγορος Κιμ Τσάβες Κουκ (Kim Chavez Cook), καθώς η έφεση εκκρεμεί ακόμη.

Τι περιείχε η έφεση με τις πλαστές καταθέσεις από το ChatGPT;

Σύμφωνα με το Ανώτατο Δικαστήριο, το αίτημα έφεσης περιείχε «ψευδείς μαρτυρίες από εξ ολοκλήρου επινοημένους μάρτυρες». Ανάμεσα στα κατασκευασμένα στοιχεία υπήρχε και η επινοημένη δήλωση ότι «ο δράστης φορούσε σκούρο παντελόνι και λευκό μπλουζάκι», λεπτομέρεια που δεν προερχόταν από κανένα πραγματικό αποδεικτικό στοιχείο της υπόθεσης.

Ο ίδιος ο δικηγόρος παραδέχθηκε στο πρακτορείο Reuters ότι χρησιμοποίησε το ChatGPT για να συνοψίσει τη δίκη όταν ανέλαβε την έφεση πέρυσι, χωρίς όμως να αντιληφθεί το εύρος των «παραισθήσεων» που μπορεί να παράγει η τεχνητή νοημοσύνη.

Πώς απάντησε ο δικηγόρος στο Ανώτατο Δικαστήριο;

Ο Άαρονς εξήγησε ότι τροφοδότησε το ChatGPT με απομαγνητοφωνημένες καταθέσεις και άλλο υλικό της πρώτης δίκης, υποθέτοντας ότι το εργαλείο θα παρήγαγε μια «ακριβή σύνοψη». Οι δικαστές, ωστόσο, δεν πείστηκαν ότι αγνοούσε τον κίνδυνο λαθών από την τεχνητή νοημοσύνη.

«Βλέπετε ειδήσεις; Ακούτε ραδιόφωνο; Διαβάζετε οτιδήποτε για όσα συμβαίνουν στον κόσμο; Επειδή το πρόβλημα με τους δικηγόρους που βασίζονται στις παραισθήσεις της ΤΝ είναι στα πρωτοσέλιδα σε καθημερινή βάση», σχολίασε η δικαστής Σ. Σάνον Μπέικον (S. Shannon Bacon). Ο Άαρονς δήλωσε ότι έχει μετανοήσει και ελπίζει το πειθαρχικό συμβούλιο να αντιμετωπίσει το περιστατικό ως «ειλικρινές λάθος». Η OpenAI δεν απάντησε σε αίτημα για σχόλιο.

Αυξάνονται τα περιστατικά με δικηγόρους και τεχνητή νοημοσύνη

Η υπόθεση του Άαρονς δεν είναι μεμονωμένη. Το τελευταίο διάστημα πολλοί πολιτειακοί και ομοσπονδιακοί δικαστές στις ΗΠΑ έχουν επιβάλει πειθαρχικά μέτρα σε δικηγόρους που υπέβαλαν έγγραφα συνταγμένα με εργαλεία τεχνητής νοημοσύνης χωρίς έλεγχο. Δεκάδες δικηγόροι έχουν ήδη υποστεί κυρώσεις επειδή η ΤΝ παρερμήνευσε τον νόμο σε δικόγραφα που κατέθεσαν.

Ορισμένοι δικαστές έχουν επίσης δεχθεί κριτική επειδή χρησιμοποίησαν τεχνητή νοημοσύνη στο δικό τους έργο, δείχνοντας ότι το φαινόμενο αγγίζει πλέον ολόκληρο το δικαστικό σύστημα, όχι μόνο τους δικηγόρους.