управление рисками

Статья посвящена применению фреймворка управления рисками искусственного интеллекта от Национального института стандартов и технологий США (NIST AI RMF) в медицинских организациях. Введение упоминает, что к началу 2026 года крупные игроки генеративного ИИ — OpenAI (ChatGPT) и Anthropic (Claude) — расширили свои сервисы для здравоохранения и науки о жизни. Отмечается, что более 40% врачей в США ежедневно используют платформу OpenEvidence для поиска рецензируемых исследований и поддержки принятия решений на основе доказательств. Статья исследует, как медицинские организации могут адаптировать принципы управления рисками ИИ для безопасного внедрения генеративных моделей в клинические рабочие процессы. Особое внимание уделяется вопросам валидации, прозрачности алгоритмов и защиты данных пациентов при использовании ИИ-систем. Материал рассматривает регуляторные аспекты внедрения ИИ в медицину и предлагает практические рекомендации для медицинских учреждений.

Статья анализирует запуск ChatGPT Health от OpenAI как важный момент для индустрии здравоохранения, смещая фокус с технологических ограничений на вопросы юридической ответственности, управления данными и клинической подотчётности. OpenAI позиционирует инструмент как вспомогательный слой для помощи людям в понимании медицинских записей и подготовке к разговорам с врачами, а не как замену медицинской помощи — инструмент явно не предназначен для диагностики или лечения. Автор подчёркивает, что сотни миллионов людей уже задают ИИ-системам вопросы о здоровье и загружают медицинские записи, содержащие высокочувствительную информацию. Ключевой тезис статьи: когда персональные медицинские данные начинают поступать в общие ИИ-системы, профиль рисков кардинально меняется, так как здравоохранение — это регулируемая экосистема, где некорректная обработка информации может причинить реальный вред. Статья поднимает критические вопросы: кто несёт ответственность, если модель выдаст неверную интерпретацию? Где хранятся данные и кто имеет к ним доступ? Что произойдёт при утечке или misuse чувствительной информации? Автор утверждает, что в регулируемых средах любая система, обрабатывающая данные пациентов, становится частью клинической поверхности риска независимо от первоначального намерения. В заключение отмечается, что основным ограничением здравоохранения является не недостаток интеллекта, а отсутствие согласованной инфраструктуры.

Статья освещает обсуждение агентного искусственного интеллекта (agentic AI) на конференции HIMSS26 в Лас-Вегасе. Агентный ИИ — это автономные системы, способные самостоятельно выполнять задачи без постоянного человеческого вмешательства. В здравоохранении такие системы потенциально могут автоматизировать процессы предварительных авторизаций и взаимодействия с пациентами, освобождая время клиницистов и администраторов. Однако независимое действие агентного ИИ создаёт риски в медицинских рабочих процессах, требующие особого внимания. Эксперты подчёркивают необходимость внедрения инструментов с надлежащим управлением и механизмами проверки человеком. Организации здравоохранения должны балансировать между эффективностью автоматизации и безопасностью пациентов. Статья основана на интервью с лидерами отрасли, которые поделились опытом использования агентного ИИ и рекомендациями по его внедрению. Ключевой вывод — успех зависит от правильной governance и интеграции человеческого контроля в автоматизированные процессы.