3 статей
Статья описывает подход Mass General Brigham к внедрению ИИ-инструментов в медицинскую практику с акцентом на доказательства и реальное влияние. Система использует Microsoft Copilot для помощи клиницистам и создала безопасный доступ к большим языковым моделям, включая ИИ-агента для автоматического суммирования медицинских записей пациентов перед визитом.
Статья посвящена применению фреймворка управления рисками искусственного интеллекта от Национального института стандартов и технологий США (NIST AI RMF) в медицинских организациях. Введение упоминает, что к началу 2026 года крупные игроки генеративного ИИ — OpenAI (ChatGPT) и Anthropic (Claude) — расширили свои сервисы для здравоохранения и науки о жизни. Отмечается, что более 40% врачей в США ежедневно используют платформу OpenEvidence для поиска рецензируемых исследований и поддержки принятия решений на основе доказательств. Статья исследует, как медицинские организации могут адаптировать принципы управления рисками ИИ для безопасного внедрения генеративных моделей в клинические рабочие процессы. Особое внимание уделяется вопросам валидации, прозрачности алгоритмов и защиты данных пациентов при использовании ИИ-систем. Материал рассматривает регуляторные аспекты внедрения ИИ в медицину и предлагает практические рекомендации для медицинских учреждений.
Статья рассматривает проблему «теневой ИИ» (Shadow AI) в медицинских организациях — использование сотрудниками генеративных ИИ-инструментов без согласования с IT-отделом и без контроля со стороны служб безопасности. Понятие «теневой ИТ» описывает любые технологические решения, внедряемые в корпоративную сеть без предварительного одобрения ИТ-департамента. В условиях быстрого распространения генеративного искусственного интеллекта регистрация новых сервисов стала проще, чем когда-либо, что одновременно увеличило риски. Сотрудники, для которых взаимодействие с ИТ-отделом кажется слишком обременительным, могут использовать личные аккаунты для работы, не осознавая проблем с соответствием требованиям и безопасностью данных. Статья посвящена стратегиям управления этими рисками и внедрению политик контроля использования ИИ-инструментов в медицинских организациях. Проблема особенно актуальна для здравоохранения, где защита конфиденциальных данных пациентов является критически важной. Решение требует баланса между удобством использования технологий и необходимостью соблюдения регуляторных требований, таких как HIPAA.
