Gdy AI mówi „wszystko jest ok”, a ty wiesz, że coś jest nie tak

Wyobraź sobie radiologa, który patrzy na mammografię z podpowiedzią AI. System nie zaznaczył nic niepokojącego. Lekarz idzie dalej — bo skoro narzędzie zwykle ma rację, po co szukać dłużej? Właśnie w takim momencie najłatwiej przeoczyć zmianę, którą AI przeoczyło jako pierwsze.

To zjawisko nazywa się automation bias — tendencyjne poleganie na wskazaniach systemu, nawet gdy coś jest nie tak.

---

Co się właściwie dzieje?

Automation bias to nie lenistwo ani brak wiedzy. To sposób, w jaki działa uwaga: jeśli system już coś zaznaczył, mózg traktuje resztę obrazu jako sprawdzoną. Im lepszy system, tym silniejszy efekt — bo doświadczenie uczy, że zwykle ma rację. Błąd pojawia się dokładnie tam, gdzie kosztuje najwięcej: w rzadkich przypadkach, których system nie złapał.

Pokazało to badanie opublikowane w „Radiology” w 2026 roku (Taib, Chen i inni, DOI 10.1148/radiol.252590). Dziesięciu radiologów specjalizujących się w diagnostyce piersi przeglądało w dwóch rundach, w odstępie sześciu tygodni, 60 przypadków mammografii z celowo zróżnicowanymi podpowiedziami AI — częściowo trafnymi, częściowo błędnymi. Badacze śledzili przy tym ruchy gałek ocznych lekarzy (eyetracking).

---

Gdy AI przeoczy zmianę, lekarz też ją częściej przeoczy

Gdy system dawał błędną podpowiedź — sugerował „czysto” mimo obecności zmiany (wynik fałszywie ujemny) — mediana czułości radiologów spadła z 71% do 39% (p = 0,002). To spadek o 32 punkty procentowe.

Eyetracking pokazał mechanizm: w przypadkach przeoczonych przez AI lekarze patrzyli na obraz rzadziej — 0,44 fiksacji na sekundę zamiast 0,47 (p = 0,03). Podpowiedź AI nie tylko sugerowała odpowiedź — przekierowywała uwagę i wygaszała samodzielne szukanie.

Ten sam mechanizm działa też na korzyść lekarza

Gdy AI dawała fałszywy alarm — zaznaczała jako podejrzane coś, co podejrzane nie było — radiolodzy radzili sobie lepiej niż bez wsparcia: specyficzność wzrosła z 21% do 39% (p = 0,004). Zapłacili za to czasem: czas czytania wydłużał się z 25 do 34 sekund przy czterech lub więcej podpowiedziach (p = 0,001), bo dokładniej sprawdzali sugestię, zanim ją odrzucili.

To ważne dla uczciwości przekazu: to nie jest historia o tym, że AI w radiologii szkodzi. Przy fałszywych alarmach lekarze radzili sobie lepiej niż bez AI. Problem jest wąski i konkretny — przeoczenia.

---

Czego to badanie nie mówi

Próba dziesięciu radiologów jest mała. Badanie pokazuje istnienie i siłę efektu w kontrolowanych warunkach, nie częstość błędów w codziennej praktyce. Nie wolno przenosić tych liczb na inne zawody — mechanizm uwagi jest ogólny, ale skala efektu już nie.

---

Test na 5 minut

Weź zadanie, które dziś zrobiłeś z AI. Zrób je jeszcze raz sam, bez patrzenia na wynik. Porównaj. Różnica pokaże ci, co realnie wniosło narzędzie, a co tylko przyklepało.

---

Co robić?

1. Jedno przejście bez podpowiedzi. Przy pracy z AI wyrób nawyk: najpierw oceniasz sam, bez patrzenia na sugestię systemu. Dopiero potem porównujesz. To jedyna metoda, która odtwarza samodzielną uwagę.
2. Brak alertu to brak informacji, a nie informacja, że jest czysto.
3. Kolejność decyduje o wyniku. W zespole nie pokazuj wyniku AI osobie weryfikującej, zanim wyrobi sobie własną ocenę.
4. Prowadź rejestr pomyłek AI. Bez niego zaufanie rośnie samo i nikt go nie kalibruje.
5. Podpis nadal należy do Ciebie. Jeśli jesteś odpowiedzialny zawodowo za wynik, to Ty jesteś jego autorem — odpowiedzialność nie przenosi się na narzędzie.
6. Nowi pracownicy najpierw bez AI. Dawaj im zadania do zrobienia samodzielnie, zanim dostaną narzędzie do ręki. Kompetencji, której się nie zbudowało, nie da się później nadzorować.

Źródła

• Taib AG, Chen Y i inni, „Automation Bias in Action: Eye Tracking of Humans Reading Screening Mammograms with and without AI Prompts”, Radiology 2026, DOI 10.1148/radiol.252590 — https://xaid.ai/blog/automation-bias-radiology-ai/

Ten artykuł jest częścią serii „Bezpieczne używanie AI” na barnabaai.com.