Η AI μπορεί να «προβλέψει» τον κίνδυνο ενδοοικογενειακής βίας χρόνια νωρίτερα

Η τεχνητή νοημοσύνη φαίνεται να αποκτά μια ακόμη, ιδιαίτερα ευαίσθητη δυνατότητα: να εντοπίζει μέσα από ηλεκτρονικούς ιατρικούς φακέλους ασθενείς που ενδέχεται να διατρέχουν αυξημένο κίνδυνο ενδοοικογενειακής βίας, ακόμη και χρόνια πριν υπάρξει επίσημη αποκάλυψη ή αίτημα για βοήθεια.

Σε πρόσφατη έρευνα με επικεφαλής επιστήμονες της Ιατρικής Σχολής του Harvard, μοντέλα AI εκπαιδεύτηκαν πάνω σε δεδομένα που συλλέγονται στο πλαίσιο της συνηθισμένης ιατρικής φροντίδας.

Σύμφωνα με τα αποτελέσματα που παρουσιάζονται στο δημοσίευμα, τα συστήματα μπορούσαν κατά μέσο όρο να επισημάνουν αυξημένο κίνδυνο περισσότερο από τρία χρόνια πριν οι συγκεκριμένες ασθενείς ενταχθούν σε νοσοκομειακό πρόγραμμα παρέμβασης για ενδοοικογενειακή βία.

Τι γίνεται όταν το σύστημα «ξέρει» πριν από εσένα

Ακούγεται σαν ένα εξαιρετικά ισχυρό εργαλείο. Αν ένας γιατρός γνωρίζει ότι μια ασθενής μπορεί να κινδυνεύει, ίσως μπορέσει να της προσφέρει νωρίτερα πληροφορίες, στήριξη ή πρόσβαση σε υπηρεσίες. Όμως εδώ ακριβώς αρχίζει το δύσκολο μέρος.

Τι γίνεται όταν το σύστημα «ξέρει» πριν από εσένα;

Η αποκάλυψη της κακοποίησης δεν είναι μια απλή απόφαση. Ένα άτομο μπορεί να φοβάται για τη ζωή του, να εξαρτάται οικονομικά από τον κακοποιητή, να ανησυχεί για τα παιδιά του ή να μην αισθάνεται ακόμη ασφαλές να μιλήσει.

Σε κάποιες περιπτώσεις, μάλιστα, η σιωπή μπορεί να είναι μια συνειδητή στρατηγική επιβίωσης.

Τι συμβαίνει λοιπόν όταν ένας αλγόριθμος επισημαίνει ότι κάποιος ενδέχεται να βιώνει βία, πριν το ίδιο το άτομο επιλέξει να το αποκαλύψει;

Το ζήτημα δεν αφορά μόνο την ιδιωτικότητα. Αφορά και την αυτοδιάθεση. Ποιος αποφασίζει πότε θα ανοίξει αυτή η συζήτηση; Ο ασθενής, ο γιατρός ή ένα σύστημα που έχει αναλύσει τον ιατρικό του φάκελο;

Η AI δεν είναι αλάνθαστη

Υπάρχει και ένα δεύτερο πρόβλημα. Το μοντέλο της συγκεκριμένης έρευνας αναπτύχθηκε αρχικά με στοιχεία γυναικών από ένα μόνο ακαδημαϊκό κέντρο υγείας στις ΗΠΑ, παρότι στη συνέχεια δοκιμάστηκε και σε επιπλέον ομάδες ασθενών.

Οι ίδιοι οι ερευνητές τονίζουν ότι χρειάζεται πολύ ευρύτερη αξιολόγηση πριν ένα τέτοιο σύστημα χρησιμοποιηθεί κανονικά στην κλινική πράξη.

Ένα λάθος μπορεί να λειτουργήσει και προς τις δύο κατευθύνσεις. Το σύστημα μπορεί να επισημάνει έναν κίνδυνο που δεν υπάρχει ή, αντίθετα, να μην αναγνωρίσει μια πραγματική περίπτωση κακοποίησης.

Και εδώ εμφανίζεται η λεγόμενη «μεροληψία της αυτοματοποίησης»: η τάση των ανθρώπων να εμπιστεύονται υπερβολικά μια αυτοματοποιημένη εκτίμηση επειδή προέρχεται από έναν αλγόριθμο.

Άλλο να εντοπίζεις το πρόβλημα και άλλο να μπορείς να το λύσεις

Ακόμη όμως κι αν η τεχνητή νοημοσύνη γίνει εξαιρετικά ακριβής, παραμένει ένα πολύ πιο πρακτικό ερώτημα: τι γίνεται αφού εντοπιστεί ο κίνδυνος;

Υπάρχει εκπαιδευμένο προσωπικό; Υπάρχουν ασφαλείς δομές; Υπάρχει ψυχολογική, νομική και οικονομική υποστήριξη; Μπορεί ένας άνθρωπος να φύγει από ένα επικίνδυνο σπίτι χωρίς να βρεθεί χωρίς χρήματα ή στέγη;

Ένας αλγόριθμος μπορεί ίσως να δείξει ότι κάτι δεν πάει καλά. Δεν μπορεί όμως από μόνος του να δημιουργήσει το ασφαλές περιβάλλον που χρειάζεται ένας άνθρωπος για να μιλήσει.