| 347 / Vnitř Lék. 2026;72(5):345-350 / VNITŘNÍ LÉKAŘSTVÍ www.casopisvnitrnilekarstvi.cz AI V MEDICÍNĚ A ZDRAVOTNICTVÍ Velké jazykové modely ve zdravotnictví: přínosy, rizika a výhled Na straně zdravotníků nacházejí LLM uplatnění zejména v oblasti administrativní podpory (korespondence, shrnutí zpráv, strukturování propouštěcích zpráv), v edukaci (příprava výukových materiálů), jako podpora při rešeršní činnosti a jako asistent při formulaci diferenciální diagnostiky – s tím, že finální klinické rozhodnutí vždy zůstává na lékaři. Studie na lékařských licenčních zkouškách (v USA) opakovaně ukázaly, že moderní LLM dosahují výkonnosti srovnatelné s průměrným lékařem či ji překračují (1). LLM, pokud jsou používány v dobře nastaveném pracovním rámci, mohou tedy pro zdravotníka představovat významný a efektivní posun v práci s informacemi. Pokud se lékaři a NLZP naučí pracovat s kontextem, budou moci zohlednit daleko více věcí, než to bylo doteď. A v ideálním případě, pokud vše bude správně nastavené, budou moci výsledkům i věřit. Velkou otázkou však i nadále zůstává, jak nastavit evaluace, aby tomu lékaři věřit mohli. Rizika a limity: co LLM není a být nemůže Přes výše popsané přínosy je nutné důrazně pojmenovat rizika, která jsou s nekritickým využíváním LLM spojena. Z klinického pohledu jsou zásadní především tato: Absence certifikace LLM jako zdravotnických prostředků. Veřejně dostupné LLM (ChatGPT, Gemini, Claude) nejsou certifikovány jako zdravotnické prostředky ve smyslu nařízení EU 2017/745 (Medical Device Regulation/MDR), amerického federálního úřadu pro kontrolu potravin a léčiv (Food and Drug Administration/FDA) ani nového Aktu EU o AI. Nemají validovanou klinickou bezpečnost, nejsou předmětem postmarketingového sledování a jejich provozovatel nenese odpovědnost spojenou se zdravotnickým prostředkem (5). To je zásadní rozdíl oproti certifikovaným AI systémům např. pro analýzu obrazových dat (např. Brainomix e-Stroke, Pixyl.Neuro), které prošly klinickou validací a jsou používány jako součást regulovaného diagnostického řetězce. Halucinace a dezinformace. LLM generují přesvědčivě formulované odpovědi i tehdy, když nemají spolehlivá data – tzv. halucinace. U zdravotních dotazů může přesvědčivě znějící, ale fakticky nesprávná odpověď vést k odložení léčby, nevhodné samomedikaci nebo ke zbytečné zdravotní úzkosti. Jazykový model chce vždy najít odpověď na dotaz tazatele. Úniky dat a ochrana soukromí. Vkládání osobních zdravotních dat, snímků nebo lékařské dokumentace do veřejně dostupných LLM systémů představuje závažné bezpečnostní riziko. Data opouštějí Co říct pacientovi s výstupem z ChatGPT PŘIJMOUT INFORMACI TRIAGE RED FLAGS KORIGOVAT A EDUKOVAT OVĚŘIT KLINICKY NASTAVIT BEZPEČNÉ POUŽITÍ Co říct pacientovi s výstupem z ChatGPT „Ukažte mi, co Vám to napsalo. Beru to jako informaci o Vašich obavách, ne jako diagnózu." Oceňte iniciativu pacienta – chce porozumět svému zdraví. Ukažte zájem o jeho obavy a zkušenost s informacemi. Srozumitelně, bez odsuzování a technického žargonu. Společně se dohodněte na dalším postupu. Cíl: vytvořit prostor a důvěru. Při přítomnosti red flags jednejte okamžitě. Opřete rozhodováni o klinická data, ne o algoritmus. Podporujte kritické myšlení a společné rozhodování. Stanovte jasné hranice a odpovědné využití technologií. PACIENT NA PRVNÍM MÍSTĚ Technologie slouží pacientovi, ne naopak. Pointa: Přijměte Al výstup jako anamnestickou stopu a edukační příležitost – ne jako náhradu klinického úsudku. BEZPEČNĚ A ODPOVĚDNĚ Chraňte data, buďte opatrní, nastavte hranice. KLINICKÝ SOUD Al podporuje, klinik rozhoduje. SPOLUPRÁCE A DŮVÉRA Rozhodnutí vedou k lepším výsledkům. ZLATÁ PRAVIDLA Nepřebírejte nekriticky návrhy Al. Neignorujte red flags ani pozdní prezentace. Nevkládejte citlivá data do veřejných nástrojů. Nezaměňujte pravděpodobnost (statistiku) za individuální diagnózu. Dodržujte důvěrnost a ochranu dat (GDPR). Informujte o limitech Al a vašem rozhodovacím procesu. Dokumentujte klíčové rozhovoru a rozhodnutí. Bolest na hrudi, dušnost, iktové příznaky, meningismus, sepse, suicidální riziko, závažné pediatrické příznaky → urgentní postup. Anamnéza, fyzikální vyšetření, vitální funkce, cílené lab./zobrazovací metody. Al výstup není důkaz. Vysvětlit, co je pravděpodobné, co ne, co sledovat a kdy znovu vyhledat péči. LLM pro otázky a vysvětlení; ne pro terapii, urgentní stavy ani vkládání neanonymizované dokumentace. Obr. 1. Algoritmus pro klinickou praxi: jak postupovat při konzultaci pacienta přicházejícího s výstupem z ChatGPT. Pětikrokový postup zdůrazňuje přijetí informace bez odsouzení, triage red flags, klinické ověření, edukaci a nastavení bezpečných hranic použití AI. Zlatá pravidla shrnují základní principy: pacient na prvním místě, klinický pohled a role lékaře a ochrana dat
RkJQdWJsaXNoZXIy NDA4Mjc=