регулирование

FDA опубликовало дискуссионный документ о регулировании медицинских устройств с генеративным ИИ, запрашивая обратную связь по оценке рисков, предпродажной оценке и постпродажному мониторингу. Предлагается двухосевая система оценки рисков и подход к предпродажной оценке на основе компетенций, вдохновленный обучением врачей. Это важный шаг в формировании регуляторной базы для ИИ в медицине.

Статья описывает запуск ОАЭ национальной программы по внедрению агентного ИИ в государственное управление, цель которой — перевести половину федеральных операций на автономные модели в течение двух лет. Основной акцент сделан на сложности классификации задач, которые можно доверить ИИ, и на отсутствии общепринятых методов разграничения автономных решений и рекомендаций, а также на вопросах ответственности за ошибки систем.

Международная группа исследователей опубликовала работу, предупреждающую о рисках безграничного доверия к искусственному интеллекту в области женского здоровья. Авторы исследования подчёркивают, что современные ИИ-системы не являются универсальным решением медицинских проблем женщин и требуют критической оценки перед внедрением в клиническую практику. Ключевая проблема заключается в том, что алгоритмы машинного обучения воспроизводят существующие гендерные стереотипы, укоренившиеся в исторических медицинских данных и практике. Это системное смещение приводит к усилению рисков неравенства при оказании медицинской помощи разным группам пациенток. Дополнительную обеспокоенность у исследователей вызывают вопросы безопасной обработки и защиты персональных данных пациентов при использовании ИИ-чатов и виртуальных медицинских ассистентов. Работа опубликована в рецензируемом журнале Women's Health, входящем в портфолио авторитетного издательства Springer Nature. Исследование поднимает важные этические и регуляторные вопросы массового внедрения ИИ в здравоохранение, особенно в чувствительных областях женской медицины.

Подкаст Debunked обсуждает недавние действия CMS и жалобу бывшего директора по исследованиям клиники Mayo на то, как медицинский центр внедряет ИИ. Материал затрагивает вопросы организации и регулирования применения искусственного интеллекта в здравоохранении.

Федеральные органы здравоохранения США организовали серию закрытых встреч с представителями технологических компаний и лоббистских групп для обсуждения вопросов внедрения искусственного интеллекта в клиническую практику. Инициатива направлена на ускорение адаптации ИИ-решений в медицине через диалог между регуляторами и индустрией. Встречи носят закрытый характер, что вызывает вопросы о прозрачности процесса формирования регуляторной политики. Участие лоббистов наряду с исследователями указывает на комплексный подход к формированию нормативной базы для клинического ИИ. Целью встреч является выявление барьеров для внедрения ИИ-технологий и разработка механизмов их преодоления. Детали конкретных обсуждаемых технологий, сроков и ожидаемых регуляторных изменений в предоставленном материале не раскрываются. Статья опубликована на платформе STAT+, специализирующейся на освещении новостей здравоохранения и биотехнологий.

Компания Daffodil Health, специализирующаяся на технологиях искусственного интеллекта для здравоохранения, запустила новую платформу для страховых компаний и других плательщиков медицинских услуг. Платформа предназначена для автоматизации и оптимизации процесса управления спорами в соответствии с федеральным законом No Surprises Act (NSA), который защищает пациентов от неожиданных медицинских счетов. Решение использует алгоритмы машинного обучения для анализа претензий, выявления потенциальных конфликтов и поддержки процесса арбитража между плательщиками и поставщиками медицинских услуг. Внедрение ИИ позволяет сократить время обработки споров, уменьшить административную нагрузку на персонал и повысить точность принятия решений. Для страховых компаний это означает снижение операционных издержек и более эффективное соблюдение регуляторных требований. Платформа представляет собой пример применения искусственного интеллекта в административной сфере здравоохранения, а не в клинической практике.

Исследование изучает мнение 10 клиницистов о применении машинного обучения для диагностики обструктивного апноэ сна. Выявлена необходимость регуляторных руководств и участия медицинских экспертов, при этом врачи должны сохранять ведущую роль над ИИ. Работа направлена на повышение доверия клиницистов к машинному обучению и улучшение внедрения технологий в клиническую практику.

Данная статья представляет собой редакционное мнение руководителей Федерации медицинских советов штатов США (FSMB) — организации, координирующей лицензирование врачей во всех штатах страны. Авторы обсуждают актуальный вопрос о необходимости лицензирования систем искусственного интеллекта, которые могут использоваться для медицинской практики. Тема затрагивает важные регуляторные аспекты внедрения ИИ в здравоохранение: кто несёт ответственность за решения ИИ, должны ли алгоритмы проходить сертификацию аналогично врачам, и как регулировать автономные медицинские системы. Однако в представленном фрагменте отсутствуют конкретные позиции авторов, аргументы или рекомендации. Материал имеет значение для специалистов по медицинскому праву и регуляторной политике в области цифрового здравоохранения. Для полноценной оценки необходимы дополнительные детали о предлагаемых подходах к лицензированию ИИ-систем.

Еженедельный дайджест ключевых событий в области применения искусственного интеллекта в российском и мировом здравоохранении. В обзоре представлены четыре основные темы: утверждение российского закона о поддержке развития ИИ-технологий, что создаёт правовую базу для внедрения искусственного интеллекта в медицинскую отрасль; запуск пилотного проекта цифрового сервиса на основе ИИ в Московской области для улучшения доступности медицинской помощи; заключение многолетнего стратегического соглашения между контрактной исследовательской организацией ICON и компанией Anthropic о внедрении языковой модели Claude в процессы клинических исследований для ускорения разработки лекарств; публикация эталонного бенчмарка от компании Insilico Medicine для оценки ИИ-моделей в фармацевтике и биотехнологиях. Материал охватывает регуляторные, практические и исследовательские аспекты применения ИИ в медицине.

Росздравнадзор выдал бессрочное регистрационное удостоверение на медицинское изделие Polyptron.AI — российскую систему искусственного интеллекта для автоматизированного выявления патологий при эндоскопической диагностике желудочно-кишечного тракта. Разработчиком выступила челябинская компания «Эва Лаб». Программное обеспечение использует технологии машинного обучения для анализа эндоскопических изображений в реальном времени и помощи врачам в обнаружении полипов, новообразований и других патологических изменений слизистой оболочки ЖКТ во время колоноскопии. Регистрация означает, что система прошла все необходимые клинические испытания и соответствует требованиям безопасности и эффективности для применения в российской медицинской практике. Это значимое событие для российской цифровой медицины — продукт позволяет повысить точность диагностики, снизить риск пропуска патологий и стандартизировать качество эндоскопических исследований. Внедрение подобных ИИ-ассистентов особенно важно для раннего выявления колоректального рака, где своевременное обнаружение полипов напрямую влияет на прогноз пациента.

Статья посвящена критической проблеме внедрения искусственного интеллекта в здравоохранении и фармацевтике, где уровень адаптации ИИ всё ещё отстаёт от других отраслей, а общественное доверие остаётся ограниченным. Авторы предлагают различать два взаимосвязанных, но отдельных концептуальных框架: «этичный ИИ» (определяет, что должно быть сделано с точки зрения ценностей, норм и справедливости) и «доверенный ИИ» (определяет, что может быть реализовано технически и оценено). Этичный ИИ фокусируется на этических дилеммах, таких как использование социальных детерминант здоровья для распределения ресурсов или оптимизация набора пациентов в клинические испытания без ущерба репрезентативности выборки. Доверенный ИИ касается инженерных и оценочных аспектов, обеспечивая техническую надёжность и безопасность решений. Статья подчёркивает, что руководители здравоохранения и фармацевтических компаний должны демонстрировать этическое управление и техническую компетентность для защиты пациентов и укрепления доверия заинтересованных сторон. Практическая значимость материала заключается в предоставлении организациям структуры для ответа на два ключевых вопроса: какие риски связаны с данным применением ИИ и способны ли мы их минимизировать. Материал особенно актуален для руководителей, разрабатывающих стратегии внедрения ИИ в клинические рабочие процессы и разработку лекарств.

Статья рассматривает проблемы внедрения и безопасного использования ИИ в здравоохранении, предлагая трёхуровневую систему оценки: реализация, оптимизация клинических путей и масштабирование. Авторы утверждают, что оценка ИИ должна быть теснее интегрирована с клинической практикой и локальным контекстом внедрения.

Статья рассматривает эволюцию подходов к аудиту и обеспечению надежности ИИ-систем поддержки клинических решений (AI-CDSS) в условиях перехода от статической валидации к непрерывному мониторингу. Предложен новый фреймворк STRAICS, интегрирующий техническую надежность, safeguards для взаимодействия человека и машины, адаптивное управление и прозрачность для создания доверенных клинических ИИ-экосистем.

В статье рассматривается практический подход к адаптации и внедрению положений нового Закона ЕС об ИИ (EU AI Act) в деятельность крупного специализированного онкологического центра. Авторы предлагают комплексную модель институционального управления, которая позволяет интегрировать алгоритмы машинного обучения в клиническую практику, соблюдая строгие регуляторные требования. Исследование фокусируется на создании механизмов контроля качества данных, управлении рисками при использовании ИИ в диагностике рака и обеспечении прозрачности алгоритмов для врачей. Основное внимание уделяется созданию междисциплинарных комитетов, которые координируют работу технических специалистов и медицинского персонала. Разработанный фреймворк помогает минимизировать юридические риски и повысить безопасность пациентов при использовании высокорисковых систем ИИ. Данная работа имеет критическое значение для медицинских учреждений, стремящихся легально и эффективно масштабировать использование нейросетей в онкологии.

Следственный комитет Российской Федерации инициировал разработку законопроекта, направленного на ужесточение уголовной ответственности за преступления, совершенные с применением современных технологий. Основное внимание в документе уделяется использованию искусственного интеллекта (ИИ), информационно-коммуникационных технологий (ИКТ), а также средств анонимизации, таких как VPN-сервисы и прокси-серверы. Глава СК Александр Бастрыкин подчеркивает необходимость законодательного закрепления данных инструментов как отягчающих обстоятельств при совершении противоправных действий. Данная инициатива направлена на противодействие киберпреступности и использование алгоритмов машинного обучения для создания дипфейков или автоматизации мошеннических схем. Реализация законопроекта может существенно изменить правовое поле для разработчиков ИИ и пользователей сетевых технологий в России. Для медицинского сектора это означает усиление контроля за использованием ИИ-решений в цифровой среде и необходимость строгого соблюдения протоколов безопасности при работе с данными.

Данный новостной дайджест от издания Vademecum охватывает ключевые изменения в российском здравоохранении на конец июля 2026 года. Одним из центральных событий является подготовка к вступлению в силу нового федерального закона о применении искусственного интеллекта, который официально начнет действовать с 1 сентября 2026 года. Также рассматриваются инициативы регулятора по внедрению экспериментальной системы мониторинга движения лекарственных препаратов через электронные рецепты. Эти меры направлены на цифровизацию фармацевтического рынка и создание правовой базы для интеграции интеллектуальных систем в медицинскую практику. Несмотря на краткость формата, новости подчеркивают переход отрасли к более строгому регулированию цифровых технологий и автоматизации контроля за оборотом медикаментов.

Федеральная служба по техническому и экспортному контролю (ФСТЭК) внесла существенные изменения в нормативную базу, регулирующую защиту персональных данных в информационных системах. Ключевым нововведением стало включение требований по обеспечению безопасности при использовании технологий искусственного интеллекта. Обновленный приказ направлен на устранение пробелов в защите данных, возникающих при обработке информации алгоритмами машинного обучения. Это изменение критически важно для медицинских организаций, использующих ИИ-решения для диагностики и анализа электронных медицинских карт. Новые правила обязывают операторов учитывать специфические риски, связанные с целостностью обучающих выборок и конфиденциальностью данных в нейросетевых моделях. Внедрение данных стандартов станет обязательным для всех разработчиков и пользователей медицинского ПО с поддержкой ИИ в рамках российского законодательства.

Статья анализирует различия в подходах к регулированию искусственного интеллекта в США и России. В то время как американские технологические гиганты используют масштабные финансовые ресурсы для лоббирования своих интересов, в России был принят закон № 243-ФЗ, устанавливающий первую рамочную норму для разработки фундаментальных ИИ-моделей. Данный законодательный акт направлен на создание суверенных национальных моделей и регулирование процессов обучения нейросетей. Основное внимание уделяется переходу к государственному контролю над технологическим суверенитетом в сфере ИИ. Исследование подчеркивает, что российский путь характеризуется более быстрым внедрением жестких правовых рамок по сравнению с попытками корпоративного влияния в США. Это создает различные условия для развития и внедрения ИИ-технологий в государственном и частном секторах обеих стран.

Президент РФ Владимир Путин официально утвердил федеральный закон, регулирующий правоотношения в области разработки, внедрения и использования больших фундаментальных моделей искусственного интеллекта. Данный законодательный акт создает правовую базу для создания конкурентоспособных отечественных ИИ-моделей и направлен на достижение технологического суверенитета страны. В документе подчеркивается, что применение ИИ-технологий будет способствовать повышению эффективности государственного и муниципального управления, в том числе в критически важной сфере здравоохранения. Закон закладывает фундамент для дальнейшего комплексного регулирования отрасли и стимулирования инноваций. Принятие документа является стратегическим шагом для интеграции передовых алгоритмов в государственные сервисы и социальные институты.