Private Health Journal

Глосарій

Глосарій: штучний інтелект у медицині

Мінімальний набір понять, щоб орієнтуватися у застосуванні штучного інтелекту в медицині.

Компактне видання. Терміни не дублюються: варіанти написання, скорочення й синоніми зібрані в одній статті.

52 · 5 · 2026-08-25

Основи · Клінічне застосування · Дані та сумісність · Оцінювання та безпека · РегулюванняУсталений 33 · Новий 9 · Регуляторний 10

Показано 52 з 52 понять.

Artificial IntelligenceAIУсталений

Штучний інтелект

Обчислювальні системи, які виконують завдання, що зазвичай потребують людського мислення: сприйняття, умовиводи та володіння мовою.

Computational systems that perform tasks normally requiring human cognition, such as perception, inference and language use.

Парасольковий термін, який вживають усі регуляторні акти й клінічні настанови; саме через його широту вужчі поняття нижче важать на практиці більше.

ОсновиПов'язані поняття: Machine Learning, Deep Learning, Foundation ModelДжерело: Regulation (EU) 2024/1689 (AI Act), Art. 3(1)

Machine LearningMLУсталений

Машинне навчання

Методи, що виводять модель із даних, а не з правил, написаних людиною.

Methods that derive a model from data rather than from explicitly written rules.

Майже весь клінічний ШІ — це машинне навчання; відмінність від систем на правилах визначає, як саме систему треба валідувати та спостерігати за нею.

ОсновиПов'язані поняття: Deep Learning, Model Calibration, Model DriftДжерело: ISO/IEC 22989:2022

Deep LearningDLУсталений

Глибоке навчання

Машинне навчання на багатошарових нейронних мережах, які самостійно виділяють ознаки з даних.

Machine learning using multi-layer neural networks that learn their own feature representations.

Основа аналізу медичних зображень і всіх сучасних мовних моделей в охороні здоров'я.

ОсновиПов'язані поняття: Medical Imaging AI, Foundation ModelДжерело: ISO/IEC 22989:2022

Foundation ModelУсталений

Базова модель

Велика модель, попередньо навчена на широкому масиві даних, яку потім адаптують до багатьох різних задач, а не будують під одну.

A large model pre-trained on broad data and adapted to many downstream tasks rather than built for one.

Переносить валідацію з «одна модель на задачу» на «одна модель для багатьох задач», і регулятори розглядають це як окремий профіль ризику.

ОсновиПов'язані поняття: Large Language Model, Medical Large Language Model, Multimodal AIДжерело: Regulation (EU) 2024/1689 (AI Act), Art. 3(63) general-purpose AI model

Large Language ModelLLMУсталений

Велика мовна модель

Базова модель, навчена передбачати текст, завдяки чому вона здатна створювати й тлумачити природну мову.

A foundation model trained to predict text, producing and interpreting natural language.

Стоїть за помічниками з документування, узагальненням і чатами для пацієнтів; водночас є джерелом ризику галюцинацій у клінічних умовах.

ОсновиПов'язані поняття: Medical Large Language Model, Retrieval-Augmented Generation, Hallucination, GroundingДжерело: Regulation (EU) 2024/1689 (AI Act), Recital 99

Medical Large Language ModelНовий

Медична велика мовна модель

Мовна модель, пристосована до клінічного тексту, медичної термінології та задач клінічного міркування — шляхом навчання на галузевих даних або донавчання.

A language model adapted to clinical text, terminology and reasoning tasks through domain training or tuning.

Адаптація до предметної області покращує роботу з термінологією, але сама собою не доводить клінічної безпеки; оцінювання лишається прив'язаним до конкретного завдання.

Клінічне застосуванняПов'язані поняття: Large Language Model, Clinical Natural Language Processing, Hallucination, Clinical ValidationДжерело: npj Digital Medicine, reviews of clinical language models — джерело потребує перевірки

Multimodal AIНовий

Мультимодальний штучний інтелект

Модель, яка в межах однієї системи опрацьовує кілька типів вхідних даних — наприклад зображення, текст і сигнали.

A model that takes in more than one kind of input — for example images, text and signals — within a single system.

Відповідає тому, як насправді відбувається клінічне міркування: разом читають висновок, знімок і вимірювання, а не щось одне.

ОсновиПов'язані поняття: Foundation Model, Medical Imaging AIДжерело: Nature Medicine, reviews of multimodal clinical models — джерело потребує перевірки

Software as a Medical DeviceSaMDРегуляторний

Програмний засіб як медичний виріб

Програмне забезпечення з медичним призначенням, яке досягає цієї мети самостійно, не будучи частиною апаратного медичного виробу.

Software intended for a medical purpose that performs that purpose without being part of a hardware medical device.

Найважливіша класифікація в медичному програмному забезпеченні: від неї залежать процедура оцінки відповідності, клінічні докази та обов'язки після виведення на ринок.

РегулюванняПов'язані поняття: AI-enabled Medical Device, Intended Purpose, Clinical Decision Support System, Post-Market SurveillanceДжерело: IMDRF/SaMD WG/N12; MDCG 2019-11 Rev.1

Intended PurposeРегуляторний

Призначення виробу

Застосування, для якого виріб призначений згідно з відомостями виробника в маркуванні, інструкції або рекламних матеріалах.

The use for which a product is intended according to the data supplied by the manufacturer in labelling, instructions or promotional material.

Класифікація йде за тим, що заявляє виробник, зокрема й на сайті; застереження не скасовує оголошеного медичного призначення.

РегулюванняПов'язані поняття: Software as a Medical Device, AI-enabled Medical DeviceДжерело: Regulation (EU) 2017/745 (MDR), Art. 2(12); CJEU C-329/16

AI-enabled Medical DeviceРегуляторний

Медичний виріб зі штучним інтелектом

Медичний виріб, робота якого повністю або частково залежить від моделі машинного навчання.

A medical device whose function depends wholly or partly on a machine-learning model.

Додає обов'язки, яких немає у статичного програмного забезпечення: врядування даними, контроль змін і спостереження за якістю роботи після випуску.

РегулюванняПов'язані поняття: Software as a Medical Device, Predetermined Change Control Plan, Post-Market Surveillance, Model DriftДжерело: FDA, Artificial Intelligence-Enabled Device Software Functions guidance

Predetermined Change Control PlanPCCPРегуляторний

План заздалегідь передбачених змін

Погоджений опис того, як модель дозволено змінювати після отримання дозволу без повторної подачі, і як кожну зміну перевірятимуть.

An agreed description of how a model may be modified after authorisation without a new submission, and how each change will be verified.

Механізм, який дозволяє законно оновлювати систему, що навчається, замість того щоб заморозити її на схваленій версії.

РегулюванняПов'язані поняття: AI-enabled Medical Device, Model Drift, Post-Market SurveillanceДжерело: FDA, Marketing Submission Recommendations for a Predetermined Change Control Plan

Post-Market SurveillancePMSРегуляторний

Післяреєстраційний нагляд

Систематичний збір і аналіз показників виробу в реальному застосуванні після виведення його на ринок.

Systematic collection and review of a device's real-world performance after it is placed on the market.

Для систем, що навчаються, саме тут виявляють погіршення: модель, яка пройшла валідацію, може непомітно відмовити в новій популяції.

РегулюванняПов'язані поняття: Model Drift, Dataset Shift, AI-enabled Medical DeviceДжерело: Regulation (EU) 2017/745 (MDR), Art. 83–86

Clinical Decision Support SystemCDSSУсталений

Система підтримки клінічних рішень

Програмне забезпечення, яке надає лікарю відомості або рекомендації щодо конкретного пацієнта як підставу для рішення.

Software that provides clinicians with patient-specific information or recommendations to inform a decision.

Межа, за якою система стає регульованим виробом, проходить там, де вона перестає просто показувати довідковий матеріал і починає працювати з даними конкретної людини.

Клінічне застосуванняПов'язані поняття: Software as a Medical Device, Automation Bias, Human OversightДжерело: MDCG 2019-11 Rev.1; FDA Clinical Decision Support Software guidance

Ambient Clinical IntelligenceACIНовий

Фонові клінічні системи

Системи, які слухають прийом і самі формують із нього документацію, не вимагаючи від лікаря набирати текст.

Systems that listen to a clinical encounter and produce documentation from it without the clinician typing.

Категорія клінічного ШІ, яку впроваджують найшвидше, і саме в ній зосереджені питання згоди, звукозапису та достовірності медичної документації.

Клінічне застосуванняПов'язані поняття: AI Medical Scribe, Clinical Natural Language Processing, HallucinationДжерело: npj Digital Medicine, evaluations of ambient documentation — джерело потребує перевірки

AI Medical ScribeНовий

Помічник із документування

Інструмент, який зі звукозапису консультації складає чернетку клінічного запису, а лікар її переглядає та підписує.

A tool that drafts a clinical note from the audio of a consultation for the clinician to review and sign.

Схема «спершу чернетка, потім підтвердження» — це те, що за більшістю тлумачень тримає його поза класифікацією медичних виробів; прибрати крок перевірки означає це змінити.

Клінічне застосуванняПов'язані поняття: Ambient Clinical Intelligence, Human Oversight, HallucinationДжерело: npj Digital Medicine, evaluations of ambient documentation — джерело потребує перевірки

Medical Imaging AIУсталений

Штучний інтелект у медичній візуалізації

Моделі, які класифікують, виявляють, окреслюють або суміщають зображення в радіології та інших видах медичної візуалізації.

Models that classify, detect, segment or register findings in radiological and other medical images.

Найбільша категорія дозволених медичних виробів зі ШІ і джерело більшості опублікованих доказів щодо їхньої клінічної якості.

Клінічне застосуванняПов'язані поняття: Radiomics, Computational Pathology, DICOM, Deep LearningДжерело: FDA, list of AI-enabled device software functions

RadiomicsУсталений

Радіоміка

Вилучення з медичних зображень великої кількості кількісних ознак, які далі слугують вхідними даними моделі.

Extraction of large numbers of quantitative features from medical images for use as model inputs.

Перетворює зображення на таблицю, і це робить його придатним для аналізу — а відтворюваність між апаратами стає центральною проблемою.

Клінічне застосуванняПов'язані поняття: Medical Imaging AI, Dataset ShiftДжерело: MeSH descriptor: Radiomics

Computational PathologyУсталений

Обчислювальна патологія

Аналіз оцифрованих зображень гістологічних препаратів за допомогою обчислювальних моделей.

Analysis of digitised whole-slide tissue images by computational models.

Оцифрування препаратів — обов'язкова передумова; без нього дисципліна не має вхідних даних, тому впровадження йде слідом за появою сканерів.

Клінічне застосуванняПов'язані поняття: Medical Imaging AI, Deep LearningДжерело: The Lancet Digital Health, reviews of computational pathology — джерело потребує перевірки

Clinical Natural Language Processingclinical NLPУсталений

Клінічна обробка природної мови

Вилучення структурованих відомостей із вільного тексту медичних документів — записів прийому, описів досліджень, виписок.

Extraction of structured meaning from free-text clinical documents such as notes, reports and discharge summaries.

Більша частина медичної картки — це суцільний текст; майже кожен подальший аналіз спершу потребує перетворення цього тексту на коди та значення.

Клінічне застосуванняПов'язані поняття: SNOMED CT, Medical Large Language Model, Electronic Health RecordДжерело: NLM, clinical NLP resources

Digital BiomarkerНовий

Цифровий біомаркер

Фізіологічний або поведінковий показник, який збирає цифровий пристрій і який слугує ознакою стану здоров'я.

A physiological or behavioural measure collected by a digital device and used as an indicator of a health state.

Перетворює безперервні дані споживчих пристроїв на щось придатне для дослідження — за умови, що сам показник пройшов валідацію.

Клінічне застосуванняПов'язані поняття: Remote Patient Monitoring, Clinical ValidationДжерело: FDA-NIH BEST (Biomarkers, EndpointS, and other Tools) resource

Remote Patient MonitoringRPMУсталений

Дистанційне спостереження за пацієнтом

Збір показників здоров'я поза межами закладу та їх перегляд лікарем або командою, що веде пацієнта.

Collection of health measurements outside a care setting and their review by a care team.

Створює той безперервний потік даних, наявність якого припускає більшість прогностичних моделей у веденні хронічних хвороб.

Клінічне застосуванняПов'язані поняття: Digital Biomarker, Clinical Prediction ModelДжерело: WHO, guideline on digital interventions for health system strengthening

Precision MedicineУсталений

Прецизійна медицина

Добір профілактики й лікування з урахуванням індивідуальних особливостей генів, середовища та способу життя.

Tailoring prevention and treatment to individual variability in genes, environment and lifestyle.

Клінічна мета, якою обґрунтовують більшість прогностичного моделювання в медицині, і причина, з якої геномні дані потрапляють на вхід моделей.

Клінічне застосуванняПов'язані поняття: Risk Stratification, Clinical Prediction ModelДжерело: MeSH descriptor: Precision Medicine

Risk StratificationУсталений

Стратифікація ризику

Поділ групи людей за оцінюваною ймовірністю певного наслідку, щоб спрямувати увагу лікарів або ресурси.

Sorting a population into groups by estimated probability of an outcome, to direct attention or resources.

Місце, де алгоритмічна упередженість шкодить найпряміше, бо результат розподіляє допомогу, а не просто описує стан.

Клінічне застосуванняПов'язані поняття: Clinical Prediction Model, Algorithmic Bias, Model CalibrationДжерело: MeSH descriptor: Risk Assessment

Clinical Prediction ModelУсталений

Клінічна прогностична модель

Модель, яка для конкретної людини оцінює ймовірність того, що діагноз наявний або що певна подія настане.

A model estimating the probability of a diagnosis being present or an outcome occurring for an individual.

Найпоширеніша форма клінічного ШІ; стандарти звітування з'явилися саме тому, що більшість опублікованих моделей були непридатні до застосування.

Оцінювання та безпекаПов'язані поняття: Model Calibration, TRIPOD+AI, Clinical Validation, Risk StratificationДжерело: TRIPOD+AI statement, BMJ 2024

Electronic Health RecordEHRУсталений

Електронна медична картка

Безперервний запис про надання допомоги пацієнту, який веде заклад охорони здоров'я.

The longitudinal record of a patient's care held by a healthcare provider organisation.

Головне джерело даних для навчання та роботи клінічного ШІ — і головна причина того, що ці дані влаштовані за логікою установи, а не людини.

Дані та сумісністьПов'язані поняття: Fast Healthcare Interoperability Resources, Clinical Natural Language Processing, Health Data InteroperabilityДжерело: MeSH descriptor: Electronic Health Records

Fast Healthcare Interoperability ResourcesFHIRУсталений

FHIR

Стандарт HL7, який подає медичні дані у вигляді окремих ресурсів, що передаються через вебінтерфейси.

An HL7 standard defining health data as modular resources exchanged over web APIs.

Практичний інтерфейс між системою ШІ та реальними клінічними даними; назвати його — означає зробити заяву про сумісність перевірною.

Дані та сумісністьПов'язані поняття: Electronic Health Record, Health Data Interoperability, International Patient SummaryДжерело: HL7 FHIR Release 4 specification

International Patient SummaryIPSУсталений

Міжнародне зведення про пацієнта

Мінімальний набір медичних даних, незалежний від спеціальності, призначений для незапланованого лікування за кордоном.

A minimal, specialty-agnostic set of health data intended to support unplanned cross-border care.

Конкретна ціль для переносної медичної картки і той профіль, за яким варто оцінювати більшість заяв про експорт.

Дані та сумісністьПов'язані поняття: Fast Healthcare Interoperability Resources, Health Data Interoperability, European Health Data SpaceДжерело: HL7 International Patient Summary implementation guide; EN 17269

SNOMED CTУсталений

SNOMED CT

Клінічна термінологія, що дає кодовані поняття та зв'язки між ними для точного запису клінічного змісту.

A clinical terminology providing coded concepts and their relationships for recording clinical meaning.

Дає моделі стабільну опору, до якої можна прив'язати знахідку; вільні текстові позначки не переживають переходу між системами.

Дані та сумісністьПов'язані поняття: Medical Ontology, Clinical Natural Language Processing, Fast Healthcare Interoperability ResourcesДжерело: SNOMED International, SNOMED CT

Medical OntologyУсталений

Медична онтологія

Формальна структура понять і відношень медичної галузі, яка дозволяє робити висновки про їхній зміст, а не лише зіставляти назви.

A formal structure of concepts and relations in a medical domain, allowing meaning to be reasoned over.

Різниця між збігом рядків і збігом змісту; без неї обробка синонімів тихо ламається.

Дані та сумісністьПов'язані поняття: SNOMED CT, Knowledge Graph, Health Data InteroperabilityДжерело: NLM Unified Medical Language System (UMLS)

Knowledge GraphKGУсталений

Граф знань

Граф сутностей і типізованих зв'язків між ними — подання предметної галузі, до якого можна робити запити.

A graph of entities and typed relationships used as a queryable representation of a domain.

Використовують, щоб спирати генерацію на зафіксовані факти, а не на пам'ять моделі, і щоб простежити, чому виникла та чи інша відповідь.

Дані та сумісністьПов'язані поняття: Medical Ontology, Retrieval-Augmented Generation, GroundingДжерело: IEEE / ACM literature on knowledge graphs — джерело потребує перевірки

Health Data InteroperabilityУсталений

Сумісність медичних даних

Здатність систем передавати одна одній медичні дані так, щоб їхній зміст не втрачався.

The ability of systems to exchange health data and use it with its meaning preserved.

Обмін без спільного розуміння дає дані, які надходять, але на які не можна покластися; складнішою є саме друга половина.

Дані та сумісністьПов'язані поняття: Fast Healthcare Interoperability Resources, SNOMED CT, European Health Data Space, International Patient SummaryДжерело: HL7; ISO/TC 215 health informatics standards

European Health Data SpaceEHDSРегуляторний

Європейський простір медичних даних

Нормативна база ЄС, яка регулює доступ до електронних медичних даних та обмін ними — і для лікування, і для вторинного використання.

An EU framework governing access to and exchange of electronic health data for care and for secondary use.

Встановлює датовані обов'язки для систем ведення документації і запроваджує режим маркування, який охоплює не лише вироби, а й застосунки для добробуту.

РегулюванняПов'язані поняття: Health Data Interoperability, International Patient Summary, Special Category Health DataДжерело: Regulation (EU) 2025/327 (European Health Data Space)

Special Category Health DataРегуляторний

Дані про здоров'я як особлива категорія

Персональні дані про здоров'я, обробка яких заборонена, доки не виконано одну з окремо визначених умов.

Personal data concerning health, whose processing is prohibited unless a specific condition applies.

Визначає правову підставу для будь-якого навчального набору і є причиною, чому знеособлення та побудова згоди передують побудові моделі.

РегулюванняПов'язані поняття: De-identification, Synthetic Health Data, European Health Data SpaceДжерело: Regulation (EU) 2016/679 (GDPR), Art. 9

Federated LearningFLУсталений

Федеративне навчання

Спільне навчання однієї моделі кількома закладами: між ними передаються лише оновлення моделі, а самі дані нікуди не переміщуються.

Training a shared model across institutions by exchanging model updates instead of moving the data.

Головна відповідь для лікарень, які не можуть об'єднати записи, хоча самі оновлення теж здатні витікати і потребують окремого захисту.

Дані та сумісністьПов'язані поняття: Privacy-Preserving Machine Learning, Synthetic Health DataДжерело: npj Digital Medicine, federated learning in healthcare reviews — джерело потребує перевірки

Privacy-Preserving Machine LearningPPMLНовий

Машинне навчання із захистом приватності

Методи, які обмежують те, що можна дізнатися про конкретну людину з готової моделі або з процесу її навчання.

Techniques that limit what can be inferred about individuals from a model or its training process.

Відрізняє архітектурну гарантію від обіцянки в політиці — а саме про цю різницю питає закупівля.

Дані та сумісністьПов'язані поняття: Federated Learning, De-identification, Synthetic Health DataДжерело: ISO/IEC 27559:2022 privacy-enhancing data de-identification framework

De-identificationРегуляторний

Знеособлення даних

Вилучення або перетворення ідентифікаторів так, щоб запис уже не можна було співвіднести з людиною без додаткових відомостей.

Removing or transforming identifiers so that a record can no longer be attributed to a person without additional information.

Псевдонімізовані дані за правом ЄС лишаються персональними; ототожнення цих двох понять — найпоширеніша помилка відповідності в проєктах зі ШІ.

Дані та сумісністьПов'язані поняття: Special Category Health Data, Synthetic Health Data, Privacy-Preserving Machine LearningДжерело: Regulation (EU) 2016/679 (GDPR), Art. 4(5) and Recital 26; ISO/IEC 27559:2022

Synthetic Health DataНовий

Синтетичні медичні дані

Штучно створені записи, які відтворюють статистичні властивості справжніх медичних даних, але не належать жодній реальній людині.

Artificially generated records that reproduce the statistical structure of real health data without corresponding to real people.

Корисні для розробки й тестування; самі собою вони не знімають ризику для приватності, бо генератор здатен запам'ятати навчальний набір.

Дані та сумісністьПов'язані поняття: De-identification, Privacy-Preserving Machine LearningДжерело: npj Digital Medicine, evaluations of synthetic health data — джерело потребує перевірки

Retrieval-Augmented GenerationRAGУсталений

Генерація з опорою на пошук

Під час запиту система знаходить фрагменти джерел і будує відповідь на них, а не лише на тому, що модель запам'ятала під час навчання.

Retrieving source passages at query time and conditioning generation on them rather than on model memory alone.

Стандартний спосіб зменшити галюцинації у відповідях на медичні питання і механізм, який робить посилання перевірним.

Оцінювання та безпекаПов'язані поняття: Grounding, Hallucination, Knowledge Graph, Large Language ModelДжерело: ACM / IEEE literature on retrieval-augmented generation — джерело потребує перевірки

GroundingНовий

Опора на джерело

Прив'язка кожного твердження у відповіді до конкретного джерела, яке його підтверджує і яке можна знайти й перевірити.

Tying a generated statement to a specific retrievable source that supports it.

Без нього правильна відповідь і вигадана для читача нерозрізненні — а в клінічному застосуванні саме в цьому вся проблема.

Оцінювання та безпекаПов'язані поняття: Retrieval-Augmented Generation, Hallucination, Explainable AIДжерело: ACM / IEEE literature on grounded generation — джерело потребує перевірки

HallucinationУсталений

Галюцинація моделі

Відповідь, яка звучить упевнено й правдоподібно, але не спирається ні на надані дані, ні на жодне справжнє джерело.

Output that is fluent and plausible but not supported by the input or by any real source.

У медицині цей збій асиметричний: вигадане дозування чи посилання виглядає точно так само, як правильне.

Оцінювання та безпекаПов'язані поняття: Grounding, Retrieval-Augmented Generation, Uncertainty Estimation, Human OversightДжерело: Nature Medicine and npj Digital Medicine, evaluations of clinical LLM outputs — джерело потребує перевірки

Clinical ValidationРегуляторний

Клінічна валідація

Підтвердження того, що результат роботи системи дає очікуваний клінічний ефект саме в тій групі пацієнтів і в тих умовах, для яких її призначено.

Demonstration that a system's output achieves the intended clinical effect in the intended population and setting.

Відрізняється від технічної точності: модель може добре показати себе на відкладеній вибірці й водночас нічого не змінити на практиці або зашкодити.

Оцінювання та безпекаПов'язані поняття: Clinical Prediction Model, TRIPOD+AI, Model Calibration, Dataset ShiftДжерело: Regulation (EU) 2017/745 (MDR), Annex XIV; MDCG 2020-1

Model CalibrationУсталений

Калібрування моделі

Узгодженість між імовірностями, які модель передбачає, і частотою, з якою подія справді настає.

The agreement between predicted probabilities and observed frequencies of the outcome.

Модель, яка добре розрізняє, але погано відкалібрована, дає правильний порядок і неправильне число — і це небезпечно, коли рішення ухвалюють саме за числом.

Оцінювання та безпекаПов'язані поняття: Clinical Prediction Model, Uncertainty Estimation, TRIPOD+AIДжерело: TRIPOD+AI statement, BMJ 2024

Model DriftУсталений

Дрейф моделі

Поступове погіршення роботи впровадженої моделі, коли умови віддаляються від тих, у яких її навчали.

Degradation of a deployed model's performance over time as conditions move away from those it was trained on.

Причина, чому одноразового схвалення недостатньо, а спостереження є регуляторним обов'язком, а не доброю практикою.

Оцінювання та безпекаПов'язані поняття: Dataset Shift, Post-Market Surveillance, Predetermined Change Control PlanДжерело: ISO/IEC 23053:2022; FDA AI-enabled device guidance

Dataset ShiftУсталений

Зсув розподілу даних

Розбіжність між даними, на яких модель навчали, і даними, до яких її застосовують.

A change between the data distribution a model was trained on and the one it is applied to.

Пояснює, чому модель, валідована в одній лікарні, відмовляє в наступній: інші апарати, інші звички кодування, інший склад пацієнтів.

Оцінювання та безпекаПов'язані поняття: Model Drift, Clinical Validation, Algorithmic BiasДжерело: IEEE / ACM machine-learning literature — джерело потребує перевірки

Algorithmic BiasУсталений

Алгоритмічна упередженість

Систематична різниця в точності або наслідках роботи моделі для різних груп людей, спричинена даними, проєктуванням чи умовами впровадження.

Systematic difference in a model's performance or effect across groups, arising from data, design or deployment.

В охороні здоров'я шкода накопичується: група, недопредставлена в даних, отримує менш точний результат, а відтак і менше допомоги.

Оцінювання та безпекаПов'язані поняття: Fairness, Dataset Shift, Risk StratificationДжерело: WHO, Ethics and Governance of Artificial Intelligence for Health (2021)

FairnessУсталений

Справедливість моделі

Наперед визначений критерій того, як помилки та вигоди від моделі мають розподілятися між групами людей.

A stated criterion for how a model's errors or benefits should be distributed across groups.

Критерії справедливості суперечать один одному математично; вибір одного з них — клінічне й етичне рішення, а не технічне за замовчуванням.

Оцінювання та безпекаПов'язані поняття: Algorithmic Bias, Human OversightДжерело: WHO, Ethics and Governance of Artificial Intelligence for Health (2021)

Explainable AIXAIУсталений

Пояснюваність моделі

Методи, які роблять поведінку моделі або окрему її відповідь зрозумілою для людини.

Methods that make a model's behaviour or a specific output understandable to a person.

Пояснення, яке виглядає правдоподібно, але не відповідає тому, що насправді робить модель, здатне радше зміцнити хибну довіру, ніж послабити її.

Оцінювання та безпекаПов'язані поняття: Grounding, Human Oversight, Automation BiasДжерело: ISO/IEC TS 6254 (AI explainability); WHO (2021)

Uncertainty EstimationНовий

Оцінювання невизначеності

Кількісна оцінка того, наскільки можна довіряти окремому передбаченню моделі.

Quantifying how much confidence a model's individual prediction warrants.

Уможливлює найбезпечнішу поведінку, доступну клінічному ШІ, — відмову відповідати; система без неї так не може.

Оцінювання та безпекаПов'язані поняття: Model Calibration, Human Oversight, HallucinationДжерело: IEEE / ACM machine-learning literature — джерело потребує перевірки

Human OversightРегуляторний

Нагляд людини

Вимога, щоб людина могла розуміти роботу системи, стежити за нею і скасовувати її рішення.

A requirement that a person can understand, monitor and override an AI system's operation.

Правовий обов'язок для систем високого ризику і механізм, який тримає схему «спершу чернетка, потім підтвердження» в межах закону.

РегулюванняПов'язані поняття: Automation Bias, Clinical Decision Support System, AI Medical ScribeДжерело: Regulation (EU) 2024/1689 (AI Act), Art. 14

Automation BiasУсталений

Довіра до автоматики

Схильність погоджуватися з рекомендацією системи й недооцінювати дані, які їй суперечать.

The tendency to accept an automated recommendation and to under-weigh contradicting evidence.

Причина, чому людський нагляд треба проєктувати, а не припускати: крок перевірки, який люди підписують не читаючи, наглядом не є.

Оцінювання та безпекаПов'язані поняття: Human Oversight, Clinical Decision Support System, Explainable AIДжерело: WHO, Ethics and Governance of Artificial Intelligence for Health (2021)

TRIPOD+AIУсталений

TRIPOD+AI

Настанова щодо звітування про дослідження, у яких розробляють або перевіряють клінічні прогностичні моделі, зокрема побудовані на машинному навчанні.

A reporting guideline for studies developing or evaluating clinical prediction models, including those using machine learning.

Дає конкретний перелік пунктів, за яким можна судити, чи взагалі можливо оцінити опубліковану заяву про модель.

Оцінювання та безпекаПов'язані поняття: Clinical Prediction Model, Clinical Validation, Model CalibrationДжерело: TRIPOD+AI statement, BMJ 2024

DICOMУсталений

DICOM

Стандарт зберігання й передавання медичних зображень разом із відомостями про умови їх отримання.

The standard for storing and transmitting medical images together with their acquisition metadata.

Метадані — це те, що робить зображення придатним для аналізу, і водночас те, що робить його ідентифікувальним; для конвеєрів ШІ важливе й одне, й друге.

Дані та сумісністьПов'язані поняття: Medical Imaging AI, De-identification, Health Data InteroperabilityДжерело: NEMA PS3 / ISO 12052, DICOM standard