| 349 / Vnitř Lék. 2026;72(5):345-350 / VNITŘNÍ LÉKAŘSTVÍ www.casopisvnitrnilekarstvi.cz AI V MEDICÍNĚ A ZDRAVOTNICTVÍ Velké jazykové modely ve zdravotnictví: přínosy, rizika a výhled kontrolu uživatele i zdravotnického zařízení a mohou tudíž být použita k trénování těchto modelů, pokud uživatel tuto možnost explicitně nezakázal. Vkládání zdravotnické dokumentace pacientů do veřejně dostupných LLM systémů je tedy v rozporu s požadavky GDPR, zákona o zdravotních službách a interními pravidly zdravotnických zařízení. Použití těchto systémů proto vyžaduje důslednou anonymizaci nebo využití prostředí schváleného danou zdravotnickou organizací (5). Symptomová spirála a zdravotní úzkost: opakované dotazování AI na příznaky může u části pacientů vést k prohlubování úzkosti, k fixaci na závažné diagnózy a k cyklu dalších dotazů – tzv. symptomové spirále. Tento fenomén je analogický nadměrnému vyhledávání zdravotních informací on-line (tzv. cyberchondrie), avšak interaktivní povaha LLM toto potenciálně zesiluje. Zajímavým aspektem je také délka konverzace. Pacienti často vedou s LLM jednu dlouhou interakci místo zakládání nových. S rostoucím počtem tokenů v kontextovém okně přitom dochází ke zhoršování pozornosti modelu a nárůstu rizika halucinací. Model hůře vybírá relevantní informace a má tendenci utvrzovat se ve vlastních dřívějších odpovědích, což může v tomto kontextu prohlubovat nepřesnosti. Je nutné zde uvést, že úroveň AI gramotnosti v populaci je zatím velmi nízká a běžný uživatel tato omezení často nezná. Problém kontextu a třetích osob. Každý sedmý zdravotní dotaz v LLM se týká jiné osoby než samotného uživatele – dítěte, rodiče, partnera. Kladení symptomových dotazů za třetí osobu přináší rizika informační ztráty, filtrace symptomů pohledem pečovatele a zkreslení. Chatbot přitom nemá jak toto zjistit a reaguje, jako by šlo o dotaz za dotazujícího samotného (2). Stanovisko ČLS JEP a doporučení pro praxi Česká lékařská společnost Jana Evangelisty Purkyně prostřednictvím své odborné společnosti CSAIM formulovala jasný rámec: výstup z veřejně dostupného LLM není diagnostickým ani terapeutickým doporučením. Pacient, který přichází do ordinace s výstupem z LLM, nemá být odmítán – tento výstup má být chápán jako informace o jeho obavách, očekáváních a míře porozumění problému. Úkolem lékaře je provést standardní klinické zhodnocení, korigovat případné nepřesnosti a vysvětlit pacientovi rozdíl mezi orientační textovou odpovědí a medicínským posouzením. Pro klinickou praxi z toho vyplývají tato konkrétní doporučení: Za prvé: aktivně se ptát pacientů, zda před příchodem do ordinace využívali LLM nebo jiné AI nástroje ke zdravotním dotazům. Tato informace je klinicky relevantní, neboť ovlivňuje pacientova očekávání, míru obav i adherenci k doporučené léčbě. Za druhé: edukovat pacienty o rozdílu mezi obecně dostupnými LLM (necertifikovanými) a certifikovanými zdravotnickými AI nástroji. Pacient by měl vědět, že ChatGPT není schválený diagnostický nástroj, a že vkládání osobní zdravotní dokumentace do těchto systémů nese bezpečnostní rizika. Za třetí: při vlastním využívání LLM jako administrativního nástroje (korespondence, shrnutí, edukační materiály) postupovat s vědomím, že anonymizace či de-identifikace dat není volitelnou, ale povinnou podmínkou. Za čtvrté: nevyužívat necertifikované LLM jako přímý diagnostický nebo terapeutický nástroj ve vztahu k pacientovi – ani v situacích, kdy je výsledek zdánlivě věrohodný. Zodpovědnost za klinické rozhodnutí nelze přenést na systém, který nemá právní status zdravotnického prostředku. Výhled: kde se LLM ve zdravotnictví ocitnou do roku 2030? Regulační rámec se bude nevyhnutelně vyvíjet. Akt EU o umělé inteligenci (EU AI Act, vstoupil v platnost v srpnu 2024 a jeho klíčová ustanovení se postupně aplikují) zařazuje AI systémy využívané v medicínských kontextech do kategorie vysokorizikových systémů, pro které jsou povinné hodnocení shody, transparentnost a postmarketingový dohled. Tato legislativa se primárně vztahuje na certifikované zdravotnické AI prostředky – obecné LLM v roli konverzačního asistenta stojí v šedé zóně, jejíž výklad se teprve ustáluje (5). Lze očekávat, že v horizontu 2–5 let se část dnes obecných LLM vydá cestou regulované certifikace pro specifické klinické indikace, podobně jako to dělá ChatGPT Health pro oblast organizace péče a interpretace výsledků. Druhým zásadním trendem je personalizace: propojení LLM s osobní zdravotní dokumentací, genomickými daty a daty z wearables slibuje posun od obecných odpovědí k individualizovaným, kontextualizovaným doporučením. Tento model – jehož prvním masovým příkladem je právě ChatGPT Health – je klinicky hodnotnější, ale zároveň regulačně komplexnější a bezpečnostně náročnější. Vstup do EHP bude podmíněn důsledným sladěním s GDPR, nařízením o evropském prostoru zdravotních dat (EHDS) a požadavky MDR. Třetím trendem je integrace do klinického pracovního toku (workflow): LLM přestanou být izolovaným nástrojem a stanou se součástí nemocničních informačních systémů, elektronické zdravotní dokumentace a podpůrných systémů klinického rozhodování – avšak v jasně vymezené roli, s ověřenou bezpečností a s dokumentovanou klinickou přidanou hodnotou. Právě k tomuto modelu by měla medicínská komunita aktivně přispívat – ne jako pasivní příjemce technologií, ale jako partner při jejich odpovědném vývoji a implementaci. Závěr Velké jazykové modely jsou dnes reálnou součástí zdravotní péče v rukou pacientů – bez ohledu na to, zda je medicínská komunita připravena. Podle dostupných dat je každý pátý zdravotní dotaz kladený v LLM osobně motivovaný, přibývají v nočních hodinách a stále více se dotýkají symptomů třetích osob. LLM nabízejí reálné přínosy v oblasti informovanosti a administrativní podpory, avšak jejich nekritické využívání k diagnostickým a terapeutickým účelům je nebezpečné. Nejsou certifikovanými zdravotnickými prostředky, mají riziko tzv. halucinací, mohou vést k úniku citlivých dat a prohlubovat zdravotní úzkost. Lékař roku 2026 by měl znát svého pacienta – a vědět, že přišel vybaven informacemi třeba od ChatGPT. Úkolem není odmítat, ale usazovat do kontextu, edukovat a vést. Regulatorní a technologický vývoj jde kupředu; aktivní role medicínské komunity při jeho formování je podmínkou toho, aby LLM skutečně sloužily pacientům, nikoli je ohrožovaly.
RkJQdWJsaXNoZXIy NDA4Mjc=