Nowe badanie wykazuje, że uprzedzenia ograniczają korzyści ze współpracy człowiek-AI w radiologii
Poniższy artykuł jest tłumaczeniem mojego tekstu w języku angielskim.
Nowe badanie opublikowane w czasopiśmie ekonomicznym wykazało, że uprzedzenia w sposobie, w jaki radiolodzy wykorzystują wsparcie AI, ograniczają potencjalne korzyści ze współpracy człowiek-AI w obrazowaniu medycznym. Artykuł ukazuje się w momencie, gdy narzędzia AI zaczynają być wdrażane w przepływy pracy radiologów, ale panuje niepewność co do optymalnego sposobu łączenia ludzkiej wiedzy eksperckiej z predykcjami algorytmicznymi.
Badanie przeprowadzili naukowcy z MIT, którzy zrekrutowali 180 radiologów poprzez firmy oferujące zdalne usługi radiologiczne do diagnozowania zdjęć RTG klatki piersiowej w różnych warunkach informacyjnych. W niektórych przypadkach radiolodzy otrzymywali wygenerowane przez AI prawdopodobieństwa, że dana patologia jest obecna. Naukowcy odkryli, że mimo iż algorytm AI działał lepiej niż dwie trzecie radiologów, dostarczanie jego predykcji nie poprawiało dokładności diagnozy.
Ten zaskakujący wynik wystąpił, ponieważ radiolodzy nie reagowali jednolicie na predykcje AI. Gdy algorytm był wysoce pewny, dokładność radiologów wzrosła dzięki jego wsparciu. Jednak dokładność spadła, gdy predykcje AI były bardziej niepewne. Autorzy wyciągają wniosek, że radiolodzy wykazują uprzedzenia, które prowadzą ich do niedowartościowania lub nieprawidłowego uwzględniania informacji z AI w stosunku do ich własnych ocen.
Wyniki mają istotne implikacje dla optymalnego wdrażania narzędzi AI obok ekspertów-ludzi. Jednym podejściem jest bardziej rozbudowane szkolenie radiologów w zakresie łączenia ich własnych osądów z predykcjami algorytmicznymi. Badanie sugeruje również, że selektywna automatyzacja, w której przypadki są przydzielane albo radiologowi, albo samemu AI, może działać lepiej niż zawsze angażowanie obu.
W miarę postępu możliwości AI w obrazowaniu medycznym, wnioski z tego badania mogą pomóc w projektowaniu współpracy człowiek-AI. Zrozumienie tego, jak ludzie wchodzą w interakcję z informacjami algorytmicznymi, jest kluczowe dla realizacji potencjalnych korzyści w dokładności i wydajności z łączenia ludzkiej wiedzy eksperckiej z AI. Więcej badań nad uprzedzeniami i wyzwaniami integracyjnymi będzie niezbędnych w miarę jak AI staje się coraz bardziej zakorzenione w przepływach pracy klinicznej.
