Η νέα εποχή στα νοσοκομεία φέρνει και κινδύνους – Η προειδοποίηση του ΠΟΥ για την Τεχνητή Νοημοσύνη

Η Τεχνητή Νοημοσύνη (ΤΝ) εξελίσσεται σε σημαντικό «όπλο» για τα νοσοκομεία, καθώς μπορεί να επιταχύνει τις διαγνώσεις, να αναλύσει σύνθετες ιατρικές εξετάσεις, να περιορίσει το διοικητικό βάρος και να στηρίξει τους γιατρούς στη λήψη κρίσιμων αποφάσεων.

Ωστόσο, η ταχύτητα με την οποία εισβάλλει στην περίθαλψη ξεπερνά τους κανόνες που θα έπρεπε να προστατεύουν τους ασθενείς από λάθη, μεροληψίες και ανεξέλεγκτη χρήση των προσωπικών τους δεδομένων.

Αυτή είναι η προειδοποίηση του Παγκόσμιου Οργανισμού Υγείας (ΠΟΥ), ο οποίος επισημαίνει ένα ολοένα μεγαλύτερο χάσμα ανάμεσα στην εφαρμογή της Τεχνητής Νοημοσύνης στην περίθαλψη και στην ικανότητα των κρατών να την ελέγξουν.

Σύμφωνα με την πρώτη ολοκληρωμένη αξιολόγηση της ετοιμότητας των συστημάτων υγείας στην Ευρωπαϊκή Περιφέρεια του ΠΟΥ, σχεδόν δύο στις τρεις χώρες έχουν ήδη εντάξει συστήματα Τεχνητής Νοημοσύνης στη διαγνωστική διαδικασία. Την ίδια στιγμή, όμως, μόλις το 8% διαθέτει ειδική εθνική στρατηγική για την Τεχνητή Νοημοσύνη στην Υγεία, ενώ εξίσου μικρό είναι το ποσοστό των χωρών που έχουν καθορίσει ποιος φέρει την ευθύνη όταν ένα σύστημα κάνει λάθος ή αποτυγχάνει.

Η τεχνολογία προχωρά, οι δικλίδες ασφαλείας καθυστερούν

Η έκθεση του ΠΟΥ βασίστηκε σε στοιχεία από 50 κράτη-μέλη και εξέτασε, μεταξύ άλλων, τις εθνικές στρατηγικές, το νομικό και ηθικό πλαίσιο, την προστασία των δεδομένων, την εκπαίδευση των επαγγελματιών υγείας και τον τρόπο με τον οποίο εφαρμόζονται ήδη οι νέες τεχνολογίες.

Η εικόνα που προκύπτει είναι αντιφατική. Από τη μία πλευρά, η Τεχνητή Νοημοσύνη μπορεί να υποστηρίξει τους γιατρούς, να επιταχύνει την ανάλυση εξετάσεων, να μειώσει το διοικητικό βάρος και να βοηθήσει συστήματα υγείας που αντιμετωπίζουν ελλείψεις προσωπικού.

Από την άλλη, σχεδόν τέσσερις στις δέκα χώρες δεν διαθέτουν ηθικές κατευθυντήριες γραμμές για τη χρήση της Τεχνητής Νοημοσύνης στην περίθαλψη. Παράλληλα, περίπου οι μισές χώρες χρησιμοποιούν ήδη ψηφιακούς βοηθούς ή chatbots για την επικοινωνία με τους ασθενείς.

Το αποτέλεσμα είναι ότι εργαλεία που μπορούν να επηρεάσουν μια διάγνωση, μια θεραπευτική απόφαση ή την ενημέρωση ενός ασθενούς εφαρμόζονται συχνά χωρίς να είναι πλήρως ξεκάθαρο ποιος ελέγχει την ακρίβειά τους, ποιος αξιολογεί τις πιθανές προκαταλήψεις τους και ποιος αναλαμβάνει την ευθύνη όταν ένα σύστημα οδηγήσει σε λανθασμένη διάγνωση ή θεραπευτική απόφαση.

Ένα λάθος του αλγορίθμου αφορά έναν πραγματικό ασθενή

Ο περιφερειακός διευθυντής του ΠΟΥ για την Ευρώπη, δρ Χανς Κλούγκε, τόνισε ότι ένα μεροληπτικό ή ανεπαρκώς ελεγμένο σύστημα μπορεί να οδηγήσει σε λανθασμένη διάγνωση, με πραγματικές συνέπειες για την υγεία ενός ανθρώπου.

Οι κίνδυνοι δεν περιορίζονται στα τεχνικά σφάλματα. Ένας αλγόριθμος που έχει εκπαιδευτεί με δεδομένα τα οποία δεν αντιπροσωπεύουν επαρκώς όλες τις ομάδες του πληθυσμού μπορεί να αποδίδει λιγότερο αξιόπιστα σε γυναίκες, ηλικιωμένους, μειονότητες ή ασθενείς με σπάνιες παθήσεις.

Παράλληλα, η επεξεργασία μεγάλου όγκου ευαίσθητων ιατρικών δεδομένων δημιουργεί σοβαρά ερωτήματα για το απόρρητο, την κυβερνοασφάλεια και τη συγκατάθεση των ασθενών.

Οι γιατροί δεν έχουν ακόμη εκπαιδευτεί επαρκώς

Ιδιαίτερη ανησυχία προκαλεί και το εκπαιδευτικό κενό. Μόλις μία στις πέντε χώρες προσφέρει εκπαίδευση στην Τεχνητή Νοημοσύνη στους φοιτητές των επιστημών Υγείας, ενώ μόνο μία στις τέσσερις παρέχει σχετική κατάρτιση στους επαγγελματίες που ήδη εργάζονται.

Αυτό σημαίνει ότι γιατροί και νοσηλευτές καλούνται να αξιολογήσουν ή να χρησιμοποιήσουν νέα ψηφιακά εργαλεία χωρίς να έχουν πάντοτε τις γνώσεις που χρειάζονται για να κατανοήσουν τα όριά τους, να αμφισβητήσουν ένα αποτέλεσμα ή να εντοπίσουν ένα πιθανό σφάλμα.

Ο ΠΟΥ υπογραμμίζει ότι η Τεχνητή Νοημοσύνη δεν πρέπει να αντικαταστήσει την κλινική κρίση και την ανθρώπινη επαφή, αλλά να λειτουργεί ως υποστηρικτικό εργαλείο στα χέρια κατάλληλα εκπαιδευμένων επαγγελματιών.

Ο κίνδυνος νέων ανισοτήτων

Ένα ακόμη κρίσιμο ζήτημα είναι ο κίνδυνος η Τεχνητή Νοημοσύνη να διευρύνει, αντί να μειώσει, τις ανισότητες στην Υγεία.

Τα εύπορα νοσοκομεία και τα καλύτερα οργανωμένα συστήματα υγείας έχουν μεγαλύτερη δυνατότητα να αγοράσουν, να ελέγξουν και να εφαρμόσουν προηγμένα εργαλεία. Αντίθετα, οι λιγότερο ανεπτυγμένες δομές μπορεί να μείνουν πίσω ή να εξαρτηθούν από τεχνολογίες που δεν έχουν αξιολογηθεί επαρκώς.

Γι’ αυτό και ο ΠΟΥ ζητά κοινό πλαίσιο που θα στηρίζεται σε τρεις βασικούς άξονες:

• σαφείς κανόνες και λογοδοσία,
• ασφαλή τεχνολογικά εργαλεία
• και κατάλληλα εκπαιδευμένο ανθρώπινο δυναμικό.