Η τεχνητή νοημοσύνη προβάλλεται ως το επόμενο μεγάλο άλμα στην ιατρική, με υποσχέσεις για ακριβέστερες διαγνώσεις, καλύτερο χειρουργικό σχεδιασμό και μείωση των ιατρικών λαθών. Ωστόσο, καθώς η χρήση της AI επεκτείνεται όλο και περισσότερο στο χειρουργείο, οι ρυθμιστικές αρχές καταγράφουν αύξηση αναφορών που αφορούν δυσλειτουργίες ιατρικών συσκευών, σοβαρούς τραυματισμούς ασθενών και περιπτώσεις λανθασμένης αναγνώρισης ανατομικών σημείων από λογισμικό.
Σύμφωνα με εκτενές ρεπορτάζ του Reuters, χαρακτηριστική είναι η περίπτωση συστήματος πλοήγησης για επεμβάσεις ιγμορείων, στο οποίο προστέθηκαν αλγόριθμοι μηχανικής μάθησης. Όπως προκύπτει από αναφορές προς τον Οργανισμό Τροφίμων και Φαρμάκων των ΗΠΑ (FDA), το σύστημα έχει συνδεθεί με δεκάδες περιστατικά δυσλειτουργιών και τουλάχιστον δέκα σοβαρούς τραυματισμούς ασθενών την τελευταία τετραετία.
Η εταιρεία που ανέπτυξε το σύστημα ανακοίνωσε το 2021 ότι ενσωμάτωσε τεχνητή νοημοσύνη στην πλατφόρμα πλοήγησης χειρουργικών εργαλείων για τη θεραπεία της χρόνιας ιγμορίτιδας. Μέχρι εκείνη τη χρονιά, οι αναφορές συμβάντων προς τον FDA ήταν περιορισμένες. Μετά την προσθήκη της AI, ο αριθμός των αναφορών για δυσλειτουργίες και ανεπιθύμητα περιστατικά αυξήθηκε σημαντικά.
Σύμφωνα με τα στοιχεία, σε αρκετές περιπτώσεις το σύστημα φέρεται να παρείχε εσφαλμένες πληροφορίες σχετικά με τη θέση των χειρουργικών εργαλείων εντός του κρανίου. Μεταξύ των αναφερόμενων περιστατικών περιλαμβάνονται διαρροές εγκεφαλονωτιαίου υγρού, διάτρηση της βάσης του κρανίου και, στις πιο σοβαρές περιπτώσεις, εγκεφαλικά επεισόδια έπειτα από τραυματισμό της καρωτίδας.
Οι κατασκευάστριες εταιρείες απορρίπτουν κατηγορηματικά οποιαδήποτε αιτιώδη σύνδεση με την τεχνητή νοημοσύνη, υποστηρίζοντας ότι οι αναφορές του FDA δεν αποδεικνύουν ευθύνη της συσκευής. Παρ’ όλα αυτά, δύο υποθέσεις έχουν ήδη οδηγηθεί στη Δικαιοσύνη, με τους ενάγοντες να υποστηρίζουν ότι το σύστημα ήταν ασφαλέστερο πριν από την ενσωμάτωση AI.
Το συγκεκριμένο περιστατικό δεν αποτελεί μεμονωμένη περίπτωση. Ο FDA έχει εγκρίνει πλέον περισσότερες από 1.350 ιατρικές συσκευές που ενσωματώνουν τεχνητή νοημοσύνη — αριθμός διπλάσιος σε σύγκριση με το 2022. Παράλληλα με την αύξηση των εγκρίσεων, καταγράφεται και αύξηση στις αναφορές προβλημάτων.
Μεταξύ των περιστατικών που έχουν καταγραφεί περιλαμβάνονται συστήματα προγεννητικών υπερήχων που φέρονται να αναγνώριζαν εσφαλμένα εμβρυϊκά μέλη, εμφυτεύσιμοι καρδιακοί καταγραφείς με AI που κατηγορήθηκαν ότι παρέλειψαν παθολογικούς καρδιακούς ρυθμούς — μεταξύ άλλων σε συσκευές της Medtronic — καθώς και λογισμικό υπερήχων της Samsung Medison, το οποίο φέρεται να «μπέρδευε» ανατομικά σημεία, χωρίς ωστόσο να έχει επιβεβαιωθεί τραυματισμός.
Μελέτη ερευνητών από τα πανεπιστήμια Johns Hopkins, Georgetown και Yale διαπίστωσε ότι δεκάδες ιατρικές συσκευές με ενσωματωμένη AI έχουν συνδεθεί με ανακλήσεις προϊόντων, πολλές εκ των οποίων σημειώθηκαν εντός του πρώτου έτους από την έγκρισή τους.
Την ίδια στιγμή, το ρυθμιστικό πλαίσιο φαίνεται να δοκιμάζεται. Σύμφωνα με νυν και πρώην επιστήμονες του FDA, κρίσιμες ομάδες αξιολόγησης τεχνητής νοημοσύνης έχουν αποδυναμωθεί τα τελευταία χρόνια, αυξάνοντας τον φόρτο εργασίας των εναπομεινάντων στελεχών.
Σε αντίθεση με τα φάρμακα, πολλές ιατρικές συσκευές — ακόμη και όταν ενσωματώνουν AI — δεν υποχρεούνται να περάσουν από εκτεταμένες κλινικές δοκιμές πριν από την κυκλοφορία τους. Συχνά εγκρίνονται ως «αναβαθμίσεις» προϋπαρχόντων προϊόντων, μια πρακτική που, σύμφωνα με ειδικούς, δημιουργεί νέα επίπεδα αβεβαιότητας όταν προστίθενται αλγόριθμοι που μαθαίνουν και εξελίσσονται με την πάροδο του χρόνου.
Παρά τους κινδύνους, η τεχνητή νοημοσύνη έχει ήδη αποδείξει τη χρησιμότητά της, ιδίως στην ακτινολογία και στην πρώιμη ανίχνευση καρκίνων. Ωστόσο, τα ίδια χαρακτηριστικά που την καθιστούν ισχυρή — η αυτομάθηση, η πολυπλοκότητα και η περιορισμένη διαφάνεια των αλγορίθμων — καθιστούν δυσκολότερο τον έλεγχο όταν κάτι πάει στραβά.
Όπως συνοψίζει ειδικός στην ιατρική ρύθμιση που επικαλείται το Reuters, το υφιστάμενο μοντέλο έγκρισης ιατρικών συσκευών «δεν είναι σχεδιασμένο για τεχνολογίες που αλλάζουν συμπεριφορά με τον χρόνο». Και όσο η τεχνητή νοημοσύνη εισέρχεται δυναμικά στο χειρουργείο, το κρίσιμο ερώτημα δεν είναι αν θα αλλάξει την ιατρική — αλλά αν οι θεσμοί μπορούν να ακολουθήσουν τον ρυθμό της.