Sztuczna inteligencja w opiece pediatrycznej niesie ze sobą wyzwania i nowe możliwości
Jak wyjaśnia Desai, duże modele językowe są podatne na „ pochlebstwo ” lub chęć zadowolenia użytkownika, który je wywołuje, a także na halucynacje, które obejmują zmyślone ustalenia.
Zauważa, że wykorzystanie sztucznej inteligencji w pediatrii wiąże się również z wyzwaniami, ponieważ wiele chorób dziecięcych występuje rzadko, a zatem algorytmy mają trudności z ich przewidzeniem.
„To ograniczenie czysto biostatystyczne: wydajność algorytmu w rzeczywistości w dużej mierze zależy od częstości występowania schorzenia. Im częstsze schorzenie, tym dokładniejszy algorytm” – wyjaśnia Desai. „I odwrotnie, im rzadsze schorzenie, tym gorsze działanie algorytmu”.
Chociaż naukowcy wykorzystują algorytmy uczenia maszynowego do identyfikacji rzadkich schorzeń wieku dziecięcego, takich jak pierwotne niedobory odporności, nadal generują one dużą liczbę wyników „fałszywie pozytywnych”, twierdzi Desai. Dzieci poddawane są wówczas wielu niepotrzebnym i kosztownym testom, dodaje.
„To sprawia, że wdrożenie tych algorytmów w miejscu opieki nad pacjentem jest bardzo trudne” – mówi Desai.
Ponadto błędy szkoleniowe niosą ze sobą ryzyko w pediatrii.
„Niektóre grupy pacjentów były prawdopodobnie niedostatecznie reprezentowane w danych szkoleniowych , więc przewidywania modelu dotyczące tych pacjentów są niedokładne” – mówi Desai.
Aby zarządzać ryzykiem związanym ze sztuczną inteligencją, szpital Texas Children's powołał komitet zarządzający i sterujący kwestiami związanymi ze sztuczną inteligencją , mówi Teresa Tonthat, wiceprezes i zastępca dyrektora ds. informatyki szpitala.
Komitet zarządzający zapewnia, że wszystkie wyniki modeli AI wymagają obecności „człowieka pośredniczącego” w celu weryfikacji informacji przed podjęciem decyzji o pacjencie, mówi Tonthat. Komitet zajmuje się również kwestiami związanymi z wymogami regulacyjnymi, stronniczością i halucynacjami związanymi z AI , dodaje.
Ponieważ system opieki zdrowotnej pracuje z danymi dotyczącymi dzieci, Texas Children's szkoli zespoły opieki nad dziećmi w zakresie zatwierdzania dokumentów za pośrednictwem MyChart firmy Epic i współpracuje z dostawcami, takimi jak Microsoft, w celu omówienia sposobów wykorzystywania i ochrony danych pacjentów — wyjaśnia Tonthat.
„Nasza tolerancja ryzyka jest bardzo niska, jeśli chodzi o informacje dotyczące naszych pacjentów pediatrycznych” – mówi Tonthat.
Mimo ryzyka, sztuczna inteligencja stwarza możliwości rozwiązywania problemów klinicznych i zwiększania efektywności procesów roboczych.
Sztuczna inteligencja w radiologii i diagnostyce pediatrycznejTexas Children's wykorzystuje sztuczną inteligencję od ponad dekady i zwrócił się ku modelowaniu predykcyjnemu, automatyzacji, uczeniu głębokiemu i uczeniu maszynowemu, aby rozwiązywać problemy kliniczne, mówi Tonthat. Szpital od dwóch lat bada możliwości generatywnej sztucznej inteligencji, szczególnie w kontekście modeli usprawniających pracę zespołów opieki zdrowotnej. Zainteresowanie zespołami klinicznymi w Texas Children's rosło z czasem, ale teraz personel jest gotowy do skalowania, mówi.
Szpital Texas Children's stworzył model sztucznej inteligencji dla radiologów, który pozwala im przewidywać wiek kostny. Model został wytrenowany na milionach zdjęć rentgenowskich dłoni dzieci.
„Ponieważ dysponujemy milionami zdjęć rentgenowskich dłoni, wytrenowaliśmy model tak, aby w ciągu kilku sekund mógł określić wiek dłoni danego dziecka na podstawie gęstości kości” – mówi Tonthat.
Według Tonthata, dzięki wykorzystaniu opartego na sztucznej inteligencji modelu predykcyjnego wieku kostnego, Texas Children's był w stanie skrócić czas realizacji badań o 50% poprzez integrację sztucznej inteligencji z procesami pracy radiologów. Model sztucznej inteligencji jest efektem współpracy między oddziałami radiologii i usług informatycznych szpitala a komitetem ds. zarządzania i wytycznych w zakresie sztucznej inteligencji .
Według Desai, CHOP wykorzystuje sztuczną inteligencję również w radiologii .
„Badacze z CHOP w ramach prowadzonych badań przyglądają się sztucznej inteligencji, która ma usprawnić diagnostykę radiologiczną, wychwytywać błędy laboratoryjne, przyspieszać diagnostykę na podstawie preparatów patologicznych i nie tylko” – mówi.
Jeśli lekarz przyjmuje pacjenta z astmą o słabej kontroli, narzędzie oparte na sztucznej inteligencji mogłoby automatycznie pobrać historię astmy pacjenta, podsumować poprzednie wizyty związane z astmą i powiadomić lekarza, jeśli pacjent jest w grupie podwyższonego ryzyka zachorowania na grypę, mówi Desai. Następnie system sprawdzałby, które leki pokrywa ubezpieczenie pacjenta i mógłby rozpocząć wystawianie zlecenia na lek kontrolujący astmę, mówi Desai.
healthtechmagazine
