Ερευνητές από το Πανεπιστήμιο του Λέιντεν στην Ολλανδία ανέπτυξαν ένα νέο μοντέλο τεχνητής νοημοσύνης, σχεδιασμένο να βοηθά τους γιατρούς στις Μονάδες Εντατικής Θεραπείας (ΜΕΘ) παρέχοντας διαφανείς και πλήρως κατανοητές εκτιμήσεις κινδύνου. Το σύστημα, το οποίο εκπαιδεύτηκε με δεδομένα ασθενών μιας δεκαετίας, εστιάζει στην πρόβλεψη της πιθανότητας επανεισαγωγής ενός νοσηλευόμενου μετά την έξοδό του από τη μονάδα. Αντί να λειτουργεί ως ένα αδιαφανές υπολογιστικό σύστημα, το αλγοριθμικό αυτό εργαλείο εξηγεί με σαφήνεια τα κριτήρια που χρησιμοποίησε, επιτρέποντας στους κλινικούς γιατρούς να διατηρούν τον πλήρη έλεγχο των αποφάσεων για τη φροντίδα των ασθενών.
- Ερευνητές του Πανεπιστημίου του Λέιντεν ανέπτυξαν αλγόριθμο που εξηγεί τις προβλέψεις του στις ΜΕΘ.
- Το μοντέλο βασίζεται σε «μη διατεταγμένους κανόνες» για να διευκολύνει την κατανόηση από τους γιατρούς.
- Η εκπαίδευση του συστήματος πραγματοποιήθηκε με δεδομένα νοσηλείας μιας δεκαετίας.
Η απουσία εξηγήσεων εμποδίζει την κλινική χρήση της τεχνητής νοημοσύνης
Στον χώρο της εντατικής θεραπείας, οι ιατρικές αποφάσεις αποτελούν συχνά ζήτημα ζωής και θανάτου. Μέχρι σήμερα, τα περισσότερα διαθέσιμα μοντέλα τεχνητής νοημοσύνης παρουσίαζαν ένα σημαντικό μειονέκτημα: είτε εντόπιζαν αποτελεσματικά τους ασθενείς υψηλού κινδύνου χωρίς όμως να εξηγούν το γιατί, είτε παρείχαν αιτιολογήσεις τις οποίες οι κλινικοί γιατροί θεωρούσαν εσφαλμένες.
Στις Μονάδες Εντατικής Θεραπείας, όπου οι αποφάσεις κρίνουν ανθρώπινες ζωές, η αδιαφάνεια των αλγορίθμων συνιστά σοβαρό εμπόδιο στην υιοθέτησή τους.
Ο μεταδιδακτορικός ερευνητής Lincen Yang, σε συνεργασία με τον καθηγητή Επεξηγήσιμης Μηχανικής Μάθησης Matthijs van Leeuwen, προσπάθησε να μεταφέρει στην κλινική πράξη ένα μοντέλο που είχαν μελετήσει αρχικά το 2023. Η συνεργασία ανάμεσα στο Ινστιτούτο Προηγμένης Επιστήμης Υπολογιστών (LIACS) και το Ιατρικό Κέντρο του Πανεπιστημίου του Λέιντεν (LUMC) είχε ως στόχο τη δημιουργία ενός εργαλείου που δεν αντικαθιστά τους γιατρούς, αλλά ενισχύει το έργο τους.
Η σημασία των μη διατεταγμένων κανόνων στην κατανόηση των δεδομένων
Η αρχιτεκτονική του συγκεκριμένου μοντέλου βασίζεται στη χρήση «μη διατεταγμένων κανόνων». Στα παραδοσιακά συστήματα, οι αλγόριθμοι εφαρμόζουν κανόνες με συγκεκριμένη σειρά, όπου η πλήρωση μιας προϋπόθεσης απαιτείται για την εφαρμογή της επόμενης. Αυτή η αλυσίδα εξαρτήσεων καθιστά τη διαδικασία εξαιρετικά πολύπλοκη για τον τελικό χρήστη. Αντίθετα, οι μη διατεταγμένοι κανόνες λειτουργούν ανεξάρτητα και άμεσα, καθιστώντας κάθε βήμα της αξιολόγησης εύκολα ιχνηλάσιμο.
Το νέο σύστημα δεν φιλοδοξεί να αντικαταστήσει τη γιατρική κρίση, αλλά να προσφέρει ένα αξιόπιστο υποστηρικτικό εργαλείο δίπλα στο κρεβάτι του ασθενούς.
Παρότι ο αλγόριθμος μπορεί να επεξεργαστεί τον όγκο των δεδομένων μιας δεκαετίας —κάτι αδύνατον για τον ανθρώπινο εγκέφαλο— δεν διαθέτει την άμεση εικόνα του ασθενούς. Για τον λόγο αυτό, η τελική απόφαση για την έξοδο από τη ΜΕΘ παραμένει στον γιατρό, ο οποίος συνδυάζει την αλγοριθμική εκτίμηση με την κλινική του εμπειρία.
Επιστημονική διαφάνεια με ευρύτερο κοινωνικό αντίκτυπο
Η μετάβαση από τα λεγόμενα «μαύρα κουτιά» της τεχνητής νοημοσύνης σε επεξηγήσιμα μοντέλα αποτελεί κομβικό σημείο για τη σύγχρονη βιοϊατρική τεχνολογία. Αυτό σημαίνει ότι η υιοθέτηση αλγορίθμων στην υγεία δεν εξαρτάται μόνο από την υπολογιστική τους ισχύ, αλλά από τον βαθμό εμπιστοσύνης που εμπνέουν στους θεράποντες ιατρούς.
Η κατάργηση των αδιαφανών παραμέτρων («magic parameters») δεν διευκολύνει μόνο το έργο των νοσοκομείων. Παράλληλα, ανταποκρίνεται στις αυξανόμενες απαιτήσεις των ρυθμιστικών αρχών και της κοινωνίας για διαφάνεια και λογοδοσία στα αυτόματα συστήματα λήψης αποφάσεων που επηρεάζουν τη δημόσια υγεία.
Πιστεύετε ότι οι γιατροί θα πρέπει να βασίζονται περισσότερο σε αλγόριθμους για κρίσιμες αποφάσεις; Μοιραστείτε την άποψή σας στα σχόλια.
