O odpowiedzialności cywilnej za szkodę spowodowaną decyzją opartą na analizie danych dotyczących zdrowia wydaną z udziałem AI

Coraz szersze zastosowanie sztucznej inteligencji w medycynie otwiera nowe możliwości – od wspierania diagnozy po planowanie leczenia. Jednocześnie pojawiają się jednak pytania o odpowiedzialność prawną za decyzje podejmowane z udziałem algorytmów. W obszarze ochrony zdrowia szczególnie istotne stają się kwestie związane z danymi osobowymi, błędnymi decyzjami klinicznymi oraz potencjalnymi szkodami dla pacjentów.

Choć sztuczna inteligencja często kojarzona jest z autonomicznymi systemami, w praktyce są to raczej złożone mechanizmy analizujące dane i generujące rekomendacje. Ich wykorzystanie wiąże się z potrzebą przejrzystości, nadzoru człowieka oraz wysokiej jakości danych. Problematyczne są m. in. błędy wynikające z braku reprezentatywnych danych, nieprzewidywalność wyników działania sztucznej inteligencji czy ryzyko dyskryminacji ze względu na wiek, płeć lub pochodzenie pacjenta.

Szczególne kontrowersje budzi możliwość podejmowania decyzji klinicznych wyłącznie na podstawie automatycznych analiz. Choć pacjent formalnie może mieć prawo do wglądu w sposób działania algorytmu, to w praktyce system może symulować udział lekarza – pozostawiając mu jedynie funkcję potwierdzającą decyzję sztucznej inteligencji. RODO jasno wskazuje, że każdy ma prawo do tego, by nie podlegać decyzjom opartym wyłącznie na automatycznym przetwarzaniu, zwłaszcza gdy mogą one znacząco wpłynąć na jego sytuację życiową lub zdrowotną.

Ważnym aspektem jest również zjawisko profilowania, czyli tworzenia predykcji zdrowotnych na podstawie danych osobowych – nie tylko tych dostarczanych przez pacjenta, ale też tych wywnioskowanych. Profilowanie może prowadzić do uprzedzeń i błędnych diagnoz, a pacjenci nie zawsze są świadomi, że są mu poddawani. Zgodnie z przepisami administrator danych powinien informować pacjenta o takich działaniach oraz ich konsekwencjach dla jego zdrowia czy prywatności.

Jeśli w wyniku działania systemu sztucznej inteligencji pacjent poniesie szkodę – materialną lub niemajątkową – może dochodzić odszkodowania od podmiotu, który system wdrożył lub nim zarządza. Odpowiedzialność cywilna z tytułu naruszenia przepisów o ochronie danych jest realna i może wynikać zarówno z niedbalstwa, jak i z braku przejrzystości działania algorytmu. Dlatego niezwykle ważne jest techniczne dopracowanie systemów i jasne uregulowanie ich użycia w praktyce klinicznej.

Materiał przygotowany z pomocą generatywnej sztucznej inteligencji na podstawie rozdziału „Wybrane aspekty odpowiedzialności cywilnej za szkodę spowodowaną decyzją opartą na analizie danych dotyczących zdrowia, wydaną z udziałem sztucznej inteligencji” autorstwa Katarzyny M. Gorzkowskiej z książki „Medyczne zastosowania sztucznej inteligencji”.

Zamów książkę „Medyczne zastosowania sztucznej inteligencji” w Księgarni Medycznej PZWL.
Korzystając z kodu promocyjnego AI5 otrzymasz dodatkowe 5% zniżki.

Materiał we współpracy z PWN.