Внедрение ИИ в медицину требует отдельной системы контроля безопасности

Искусственный интеллект может заметно повысить эффективность здравоохранения, однако его внедрение требует отдельной системы регулирования, регистрации и постоянного контроля безопасности. Об этом на Петербургском международном форуме здоровья — 2026 заявила ректор Высшей школы организации и управления здравоохранением Гузель Улумбекова. Ее выступление было посвящено роли ИИ в здоровьесбережении.

По представленным на форуме данным, технологии ИИ уже применяются в диагностике, обработке медицинских изображений, поддержке клинических решений и административной работе. Одновременно расширяется использование генеративных моделей пациентами и врачами, в том числе вне специализированных медицинских информационных систем.

Улумбекова обратила внимание, что высокая точность алгоритма на этапе разработки еще не гарантирует сохранения такой же эффективности после его внедрения в реальную клиническую практику. На результаты могут влиять изменение состава пациентов, качество исходных данных и условия работы конкретной медицинской организации. Поэтому медицинские ИИ-системы нуждаются не только в первоначальной проверке, но и в пострегистрационном мониторинге.

Отдельным риском остается использование универсальных генеративных моделей для медицинских вопросов без полноценного регулирования. По данным, которые ранее приводила Улумбекова, такими инструментами уже регулярно пользуется значительная часть населения развитых стран. При этом ответы подобных систем могут содержать ошибки, а ответственность за последствия их применения пока урегулирована не во всех случаях.

Таким образом, основной вопрос для здравоохранения смещается от самого факта появления искусственного интеллекта к тому, как доказать его пользу, контролировать качество после внедрения и определить ответственность при ошибке алгоритма.