Αντιμετωπίστε τα ανακριβή δεδομένα φυλής και εθνικότητας στην ιατρική τεχνητή νοημοσύνη

Αντιμετωπίστε τα ανακριβή δεδομένα φυλής και εθνικότητας στην ιατρική τεχνητή νοημοσύνη

Η ανακρίβεια των δεδομένων φυλής και εθνικότητας που βρέθηκαν στα ηλεκτρονικά αρχεία υγείας (EHRS) μπορεί να επηρεάσει αρνητικά τη φροντίδα των ασθενών καθώς η τεχνητή νοημοσύνη (AI) ενσωματώνεται ολοένα και περισσότερο στην υγειονομική περίθαλψη. Επειδή τα νοσοκομεία και οι πάροχοι συλλέγουν τέτοια δεδομένα με ασυνέπεια και αγωνίζονται να ταξινομήσουν με ακρίβεια μεμονωμένους ασθενείς, τα συστήματα τεχνητής νοημοσύνης που έχουν εκπαιδευτεί σε αυτά τα σύνολα δεδομένων ενδέχεται να κληρονομήσουν και να διαιωνίσουν φυλετικές προκαταλήψεις.

Σε μια νέα δημοσίευση στο PLOS Digital Health, οι ειδικοί σε θέματα βιοηθικής και νομικής ζητούν άμεση τυποποίηση των μεθόδων συλλογής φυλετικών και εθνοτικών δεδομένων και στους προγραμματιστές να εγγυηθούν την ποιότητα των φυλετικών και εθνοτικών δεδομένων στα ιατρικά συστήματα AI. Η έρευνα συνθέτει ανησυχίες σχετικά με το γιατί τα φυλετικά δεδομένα ασθενών στα EHR μπορεί να μην είναι ακριβή, προσδιορίζει τις βέλτιστες πρακτικές για τα συστήματα υγείας και τους ερευνητές ιατρικής τεχνητής νοημοσύνης για τη βελτίωση της ακρίβειας των δεδομένων και παρέχει ένα νέο πρότυπο για τους προγραμματιστές ιατρικής τεχνητής νοημοσύνης για να αιτιολογήσουν με διαφάνεια την ποιότητα των φυλετικών και εθνοτικών τους δεδομένων

Η επικεφαλής συγγραφέας Αλεξάνδρα Τσαλίδη, MBE, σημειώνει ότι «οι προγραμματιστές τεχνητής νοημοσύνης που ακολουθούν τη σύστασή μας για το πώς συλλέχθηκαν τα φυλετικά και εθνικά τους δεδομένα, όχι μόνο θα προωθήσουν τη διαφάνεια στην ιατρική τεχνητή νοημοσύνη, αλλά θα βοηθήσουν τους ασθενείς και τις ρυθμιστικές αρχές να αξιολογήσουν την ασφάλεια των εργαλείων».

Η φυλετική προκατάληψη στα μοντέλα τεχνητής νοημοσύνης είναι ένα σημαντικό πρόβλημα καθώς η τεχνολογία ενσωματώνεται ολοένα και περισσότερο στην υγειονομική περίθαλψη. Αυτό το άρθρο παρέχει μια συγκεκριμένη μέθοδο που μπορεί να εφαρμοστεί για την αντιμετώπιση αυτών των ανησυχιών. "

Francis Shen, JD, PhD, ανώτερος συγγραφέας

Ενώ χρειάζεται να γίνει περισσότερη δουλειά, το άρθρο προσφέρει ένα σημείο εκκίνησης, που προτείνεται από τον συν-συγγραφέα Lakshmi Bharadwaj, MBE. «Ένας ανοιχτός διάλογος σχετικά με τις βέλτιστες πρακτικές είναι ένα ουσιαστικό βήμα και οι προσεγγίσεις που προτείνουμε θα μπορούσαν να επιτύχουν σημαντικές βελτιώσεις».

Η έρευνα υποστηρίχθηκε από το πρόγραμμα NIH Bridge to Artificial Intelligence (BRIDG2AI) και από μια επιχορήγηση του NIH Brain Neuroethics (R01MH134144).

Πηγές: