WHO wydaje pierwszy globalny raport na temat sztucznej inteligencji (AI) w zdrowiu oraz sześć zasad przewodnich dotyczących jej projektowania i użytkowania
Sztuczna inteligencja (AI) jest bardzo obiecująca, jeśli chodzi o poprawę świadczenia opieki zdrowotnej i medycyny na całym świecie, ale tylko wtedy, gdy etyka i prawa człowieka staną się podstawą jej projektowania, wdrażania i użytkowania, zgodnie z opublikowanymi dziś nowymi wytycznymi WHO.
Raport, Etyka i zarządzanie sztuczną inteligencją dla zdrowia, jest wynikiem 2 lat konsultacji panelu międzynarodowych ekspertów powołanych przez WHO.
„Podobnie jak każda nowa technologia, sztuczna inteligencja ma ogromny potencjał w zakresie poprawy zdrowia milionów ludzi na całym świecie, ale jak każda technologia może być również niewłaściwie wykorzystywana i wyrządzać szkody” – powiedział dr Tedros Adhanom Ghebreyesus, dyrektor generalny WHO. „Ten ważny nowy raport stanowi cenny przewodnik dla krajów, jak zmaksymalizować korzyści płynące ze sztucznej inteligencji, jednocześnie minimalizując ryzyko i unikając pułapek”.
Sztuczna inteligencja może być, aw niektórych bogatych krajach jest już wykorzystywana do poprawy szybkości i dokładności diagnozy i badań przesiewowych pod kątem chorób; pomoc w opiece klinicznej; wzmacniać badania nad zdrowiem i opracowywanie leków oraz wspierać różnorodne interwencje w zakresie zdrowia publicznego, takie jak nadzór nad chorobami, reagowanie na epidemie i zarządzanie systemami opieki zdrowotnej.
Sztuczna inteligencja może również umożliwić pacjentom przejęcie większej kontroli nad własną opieką zdrowotną i lepsze zrozumienie ich zmieniających się potrzeb. Mogłaby również umożliwić krajom ubogim w zasoby i społecznościom wiejskim, gdzie pacjenci często mają ograniczony dostęp do pracowników służby zdrowia lub personelu medycznego, wypełnienie luk w dostępie do usług zdrowotnych.
Jednak nowy raport WHO ostrzega przed przecenianiem korzyści płynących ze sztucznej inteligencji dla zdrowia, zwłaszcza gdy dzieje się to kosztem podstawowych inwestycji i strategii wymaganych do uzyskania powszechnego ubezpieczenia zdrowotnego.
Wskazuje również, że możliwości wiążą się z wyzwaniami i zagrożeniami, w tym nieetycznym gromadzeniem i wykorzystywaniem danych dotyczących zdrowia; uprzedzenia zakodowane w algorytmach oraz ryzyko sztucznej inteligencji dla bezpieczeństwa pacjentów, cyberbezpieczeństwa i środowiska. .
Na przykład, podczas gdy inwestycje sektora prywatnego i publicznego w rozwój i wdrażanie sztucznej inteligencji mają kluczowe znaczenie, nieuregulowane stosowanie sztucznej inteligencji może podporządkować prawa i interesy pacjentów i społeczności potężnym interesom komercyjnym firm technologicznych lub interesom rządów w zakresie nadzoru i kontrola społeczna.
Raport podkreśla również, że systemy szkolone głównie na danych zebranych od osób w krajach o wysokim dochodzie mogą nie działać dobrze w przypadku osób o niskich i średnich dochodach.
Systemy sztucznej inteligencji należy zatem starannie projektować, aby odzwierciedlały różnorodność środowisk społeczno-gospodarczych i opieki zdrowotnej. Powinno im towarzyszyć szkolenie w zakresie umiejętności cyfrowych, zaangażowania społeczności i podnoszenia świadomości, zwłaszcza dla milionów pracowników służby zdrowia, którzy będą wymagać umiejętności cyfrowych lub przekwalifikowania, jeśli ich role i funkcje są zautomatyzowane, i którzy muszą zmagać się z maszynami, które mogą podważyć decyzję- tworzenie i autonomia świadczeniodawców i pacjentów.
Ostatecznie, kierując się istniejącymi przepisami i zobowiązaniami w zakresie praw człowieka oraz nowymi przepisami i politykami, które zawierają zasady etyczne, rządy, dostawcy i projektanci muszą współpracować, aby rozwiązać problemy etyczne i praw człowieka na każdym etapie projektowania, rozwoju i wdrażania technologii sztucznej inteligencji .
Sześć zasad zapewniających, że sztuczna inteligencja działa w interesie publicznym we wszystkich krajach
Aby ograniczyć ryzyko i zmaksymalizować możliwości nieodłącznie związane ze stosowaniem AI w celach zdrowotnych, WHO zapewnia następujące zasady jako podstawę regulacji i zarządzania AI:
Ochrona ludzkiej autonomii: W kontekście opieki zdrowotnej oznacza to, że ludzie powinni zachować kontrolę nad systemami opieki zdrowotnej i decyzjami medycznymi; należy chronić prywatność i poufność, a pacjenci muszą wyrazić ważną świadomą zgodę za pomocą odpowiednich ram prawnych dotyczących ochrony danych.
Promowanie dobrostanu i bezpieczeństwa ludzi oraz interesu publicznego. Projektanci technologii sztucznej inteligencji powinni spełniać wymogi regulacyjne dotyczące bezpieczeństwa, dokładności i skuteczności w przypadku dobrze zdefiniowanych przypadków użycia lub wskazań. Muszą być dostępne środki kontroli jakości w praktyce i poprawy jakości wykorzystania sztucznej inteligencji.
Zapewnienie przejrzystości, wyjaśnialności i zrozumiałości. Przejrzystość wymaga opublikowania lub udokumentowania wystarczających informacji przed zaprojektowaniem lub wdrożeniem technologii sztucznej inteligencji. Takie informacje muszą być łatwo dostępne i ułatwiać konstruktywne konsultacje społeczne i debatę na temat sposobu projektowania technologii oraz tego, jak należy lub nie należy z niej korzystać.
Wspieranie odpowiedzialności i rozliczalności. Chociaż technologie sztucznej inteligencji wykonują określone zadania, to na interesariuszach spoczywa odpowiedzialność za zapewnienie, że są one wykorzystywane w odpowiednich warunkach i przez odpowiednio przeszkolone osoby. Powinny być dostępne skuteczne mechanizmy przesłuchiwania i zadośćuczynienia osobom i grupom, na które negatywnie wpływają decyzje oparte na algorytmach.
Zapewnienie integracji i równości. Integralność wymaga, aby sztuczna inteligencja dla zdrowia była zaprojektowana tak, aby zachęcać do jak najszerszego sprawiedliwego korzystania i dostępu, bez względu na wiek, płeć, płeć, dochód, rasę, pochodzenie etniczne, orientację seksualną, zdolności lub inne cechy chronione na mocy kodeksów praw człowieka.
Promowanie sztucznej inteligencji, która jest responsywna i zrównoważona. Projektanci, programiści i użytkownicy powinni stale i przejrzyście oceniać aplikacje AI podczas rzeczywistego użytkowania, aby określić, czy sztuczna inteligencja odpowiada adekwatnie i odpowiednio do oczekiwań i wymagań. Systemy sztucznej inteligencji powinny być również projektowane w taki sposób, aby zminimalizować ich konsekwencje dla środowiska i zwiększyć efektywność energetyczną. Rządy i firmy powinny zająć się przewidywanymi zakłóceniami w miejscu pracy, w tym szkoleniami dla pracowników służby zdrowia, aby przystosować się do korzystania z systemów sztucznej inteligencji, oraz potencjalną utratą miejsc pracy z powodu korzystania z systemów zautomatyzowanych.
Zasady te będą kierować przyszłymi pracami WHO w celu wspierania wysiłków mających na celu zapewnienie, że pełny potencjał sztucznej inteligencji dla opieki zdrowotnej i zdrowia publicznego zostanie wykorzystany z korzyścią dla wszystkich.
Od https://www.who.int/news/item/28-06-2021-who-issues-first-global-report-on-ai-in-health-and-six-guiding-principles-for-its -zaprojektuj i użyj-
