Анестезиологи предупредили о рисках ИИ в клинических решениях: автоматизация может усилить врачебные ошибки

Использование искусственного интеллекта в клинической практике, включая анестезиологию и интенсивную терапию, может не только помогать врачам, но и усиливать риски для пациентов. К такому выводу пришли авторы аналитической статьи, опубликованной в журнале Anaesthesia. Эксперты предупреждают: чрезмерное доверие алгоритмам способно снижать клиническое мышление и приводить к системным ошибкам.

Коротко

• ИИ всё активнее внедряется в анестезиологию и реанимацию.
• Алгоритмы могут влиять на решения врача даже при неверных данных.
• Существует риск «автоматического согласия» с рекомендациями ИИ.
• Авторы призывают к строгому контролю и регуляции медицинского ИИ.

Что произошло

Группа экспертов в области анестезиологии и клинической безопасности опубликовала аналитическую работу, посвящённую рискам применения искусственного интеллекта в медицинских решениях. Поводом стало стремительное внедрение алгоритмов поддержки принятия решений в анестезиологии, интенсивной терапии и хирургии.

Авторы подчёркивают, что ИИ-системы часто воспринимаются как нейтральные и объективные, однако на практике они зависят от качества данных, логики обучения и контекста применения. Ошибки в алгоритмах или входных данных могут незаметно транслироваться врачу как «рекомендованное решение».

Почему это важно

В анестезиологии цена ошибки особенно высока: решения принимаются в реальном времени и напрямую влияют на жизненно важные функции пациента. Если врач начинает полагаться на ИИ без критической оценки, возрастает риск неправильных дозировок, неверной оценки состояния пациента или запоздалой реакции на осложнения.

Что меняется для практики

• ИИ не должен подменять клиническое мышление врача.
• Алгоритмы должны использоваться как вспомогательный инструмент, а не как источник окончательных решений.
• Необходимы обучение врачей работе с ИИ и понимание его ограничений.
• Медицинские учреждения должны внедрять системы аудита и контроля ИИ-решений.

Авторы также указывают, что ответственность за клиническое решение в любом случае остаётся на медицинском специалисте, а не на разработчике алгоритма.

Регуляторный контекст

В статье подчёркивается отсутствие единых международных стандартов оценки безопасности медицинского ИИ. По мнению экспертов, регуляторы должны уделять внимание не только точности алгоритмов, но и их влиянию на поведение врачей и клинические процессы.

Без чётких правил существует риск, что ИИ-решения будут внедряться быстрее, чем формируются механизмы их безопасного применения.

Что дальше

Авторы призывают к разработке клинических рекомендаций по использованию ИИ в анестезиологии, созданию этических рамок и включению вопросов цифровой безопасности в медицинское образование. Также необходимы дополнительные исследования, оценивающие влияние ИИ на реальные клинические исходы.