регулирование

Статья предлагает концепцию «сначала фундамент», утверждая, что внедрение ИИ в здравоохранении должно предшествовать развитие базовой инфраструктуры, таких как энергоснабжение, связь и кадры, а не быть стартовой точкой цифровой трансформации. На примере Сомали демонстрируется, как учет системных ограничений и неравенства позволяет сделать ИИ инструментом усиления, а не исключения, в условиях слабой инфраструктуры.

Статья представляет собой философское эссе, в котором поднимается вопрос о будущем роли искусственного интеллекта в научной среде, в частности, о возможности присуждения Нобелевской премии по медицине алгоритмам, таким как Claude или ChatGPT. Автор цитирует Джеффри Флиера, задаваясь вопросом, не перейдет ли признание научных заслуг от человеческих исследователей к ИИ-системам. Материал не содержит конкретных данных о медицинских применениях ИИ, клинических испытаниях или новых технологиях, а фокусируется на этических, социальных и институциональных аспектах признания вклада ИИ в науку. Это обсуждение относится к сфере регулирования, этики и организации научных исследований, что соответствует категории косвенной релевантности. Текст не предлагает практических решений или новых медицинских открытий, а лишь инициирует дискуссию о том, как общество будет оценивать вклад нечеловеческих интеллектов в фундаментальные научные достижения.

Министр здравоохранения и социальных служб США Роберт Ф. Кеннеди-младший публично заявил, что искусственный интеллект способен предоставлять пациентам «второе мнение», которое является значительно более информированным, чем мнение любого врача в стране. Это заявление спровоцировало резкую критику и отторжение со стороны медицинского сообщества, что подчеркивает растущее напряжение и поляризацию в вопросах внедрения технологий ИИ в клиническую практику. Статья освещает текущие дебаты вокруг роли алгоритмов в диагностике и лечении, где технологический оптимизм сталкивается с профессиональной осторожностью врачей. Ключевым аспектом является вопрос доверия к ИИ как к инструменту поддержки принятия врачебных решений, а не как к замене специалиста. Обсуждение затрагивает этические, юридические и практические аспекты использования нейросетей в здравоохранении, включая риски ошибок алгоритмов и ответственность за диагнозы. Материал важен для понимания регуляторной и общественной динамики, влияющей на будущее ИИ-решений в медицине. Несмотря на отсутствие технических деталей, статья отражает критический этап формирования политики в области медицинского ИИ на высоком государственном уровне.

Исследование использует метод Дельфи для определения ключевых компетенций и учебных целей по искусственному интеллекту, необходимых студентам-медикам для будущей клинической практики. Разработанный фреймворк включает 7 компетенций и 37 учебных целей, направленных на интеграцию теоретических знаний и этического использования ИИ в медицинское образование.

Статья анализирует предложенные в ЕС поправки к Закону об ИИ (AI Act), которые могут ослабить требования к медицинским устройствам на базе ИИ, оставив их в категории высокого риска, но убрав специфические гарантии безопасности. Автор утверждает, что такая дерегуляция смещает фокус на традиционное регулирование медицинских устройств, игнорируя уникальные риски ИИ, такие как управление данными и человеческий надзор, что может подорвать безопасность и подотчетность клинического применения.

В статье, опубликованной в журнале npj Artificial Intelligence, автор анализирует феномен использования термина «AI slop» (искусственный интеллектовый мусор) в публичном дискурсе. Указывается, что данный термин выполняет функцию социального буфера: оптимисты используют его для изоляции неудачных результатов от общего потенциала технологии, тогда как критики применяют его для дискредитации всего направления ИИ в целом. Автор аргументирует, что такое упрощенное обсуждение создает иллюзию решения важных социальных проблем, избегая при этом глубокого и конструктивного анализа. Подчеркивается необходимость открытых и честных дебатов о роли ИИ в обществе, вместо того чтобы прятаться за эмоционально окрашенной лексикой. Статья призывает к более зрелому подходу к регулированию и этическим вопросам, связанным с генеративными моделями. Исследование носит социогуманитарный характер и фокусируется на коммуникационных аспектах внедрения ИИ, а не на технических или медицинских применениях. Это важный вклад в понимание того, как общественное восприятие влияет на развитие технологий искусственного интеллекта.

Статья анонсирует вебинар, посвященный вопросам управления, безопасности и готовности к внедрению искусственного интеллекта в здравоохранении. Обсуждаются стратегии снижения рисков при работе с поставщиками ИИ, политика использования генеративного ИИ и критерии оценки ИИ-вендоров для страховых организаций.

В статье рассматривается проблема регуляторного регулирования медицинских изделий, использующих технологии искусственного интеллекта, в Российской Федерации. Представители компании ООО «Моторика» указывают на то, что Россия отстает от мировых показателей по регистрации таких устройств. Ключевой причиной задержек и сложностей называется автоматическое присвоение изделиям с ИИ третьего класса потенциального риска при их регистрации, что усложняет и замедляет выход продуктов на рынок. Это создает барьеры для внедрения инновационных решений в клиническую практику, несмотря на их доказанную эффективность. Вопрос касается не столько технической реализации ИИ, сколько нормативно-правовой базы и подходов регулятора к оценке безопасности алгоритмических систем. Статья подчеркивает необходимость пересмотра существующих правил классификации, чтобы стимулировать развитие отечественной индустрии медицинского ИИ и сократить разрыв с международными стандартами.

Управление по контролю за продуктами и лекарствами США (FDA) запустило пилотную программу TEMPO, которая позволяет компаниям в сфере цифрового здоровья выпускать продукты на основе генеративного искусственного интеллекта на рынок до получения официального разрешения на маркетинг. В рамках этой инициативы четыре устройства, включая продукты от компаний Cadence и Limbic, были приняты в программу. TEMPO представляет собой значимый сдвиг в регулировании ИИ-медицинских устройств: вместо традиционного предварительного одобрения FDA будет использовать постмаркетинговый надзор и сбор реальных клинических данных. Это позволяет ускорить доступ пациентов к инновационным технологиям, сохраняя при этом механизмы контроля безопасности. Программа отражает растущее признание регулятором необходимости адаптации к быстро развивающейся области генеративного ИИ в здравоохранении. Участие Cadence и Limbic, известных своими решениями в области поведенческого здоровья и психиатрии, подчеркивает фокус на клинически значимых применениях. Ожидается, что результаты пилота повлияют на будущие регуляторные рамки для ИИ-устройств в США.

Министерство юстиции США выразило поддержку OpenAI в судебном споре с The New York Times и другими издателями по вопросу использования их статей для обучения моделей искусственного интеллекта. Ведомство считает, что использование материалов для обучения ИИ подпадает под доктрину добросовестного использования (fair use), что является важным прецедентом для всей индустрии генеративного ИИ. Позиция Минюста может существенно повлиять на исход дела, которое рассматривается в окружном суде Южного округа Нью-Йорка. NYT утверждает, что OpenAI нарушила авторские права, используя миллионы статей без разрешения, в то время как OpenAI настаивает на правомерности своих действий. Это дело является одним из ключевых для определения правовых рамок обучения больших языковых моделей на публично доступных данных. Решение суда может установить стандарты для будущих исков со стороны правообладателей и повлиять на развитие рынка ИИ в США и других странах, включая Россию, где аналогичные вопросы также обсуждаются.

В статье представлено смешанное исследование готовности системы здравоохранения Египта к внедрению ИИ. Опрос 387 администраторов и интервью с 18 политиками выявили ключевые барьеры: фрагментированное управление, слабую инфраструктуру, недостаток цифровых навыков и неопределенность регулирования. Авторы подчеркивают необходимость укрепления управления, инфраструктуры и нормативной базы для успешного внедрения ИИ.

Статья предлагает основанную на наставничестве структуру для использования ИИ в медицинских диссертациях и ранних научных публикациях, подчеркивая формирование профессиональных навыков, а не только соблюдение требований. Автор вводит три операционных принципа: ось карьерного этапа, правило последовательности (запрет ИИ до первого самостоятельного черновика) и трассировку правок, а также типологию задач для адаптации политики. Основной вывод: раскрытие использования ИИ недостаточно для обучения, необходим надзор супервизора для сохранения когнитивной работы письма.

Исследователи из Китая и Германии разработали пятиэтапную систему оценки медицинского искусственного интеллекта на протяжении всего жизненного цикла — от первоначальной проверки алгоритма до длительного наблюдения после его внедрения. Авторы отмечают, что существующие исследования часто ограничиваются ретроспективной оценкой точности моделей, хотя хорошие результаты в лабораторных условиях еще не доказывают пользу технологии для врачей и пациентов. Работа опубликована в журнале Nature Digital Medicine. Предложенная система включает пять последовательных этапов: валидацию алгоритма на репрезентативных данных, оценку клинической полезности в условиях реальной практики, проверку интеграции в рабочие процессы, мониторинг безопасности и эффективности после внедрения, а также долгосрочное наблюдение за влиянием на исходы пациентов. Такой подход призван закрыть разрыв между лабораторными исследованиями и реальной клинической практикой, обеспечивая более строгую и всестороннюю оценку ИИ-систем перед их широким применением в здравоохранении.

В журнале npj Digital Medicine опубликована статья, предлагающая пятифазную систему оценки (framework) для диагностических и прогностических моделей искусственного интеллекта в медицине. Авторы отмечают, что существующие подходы к валидации медицинского ИИ фрагментированы и не учитывают весь жизненный цикл модели — от разработки до постмаркетингового мониторинга. Предложенная система включает пять последовательных фаз: (1) доклиническая оценка на ретроспективных данных, (2) проспективная валидация в контролируемых условиях, (3) пилотное внедрение в реальной клинической практике, (4) рандомизированные контролируемые испытания для оценки влияния на исходы пациентов и (5) непрерывный мониторинг после развертывания с механизмами обратной связи и переобучения. Для каждой фазы авторы определяют конкретные метрики, требования к данным, статистические методы и критерии перехода к следующему этапу. Особое внимание уделяется вопросам справедливости (fairness), устойчивости к дрейфу данных и интерпретируемости моделей. Работа призвана стандартизировать процесс оценки ИИ-систем в здравоохранении, что критически важно для регуляторных органов, клиницистов и разработчиков. Предложенный фреймворк может стать основой для гармонизации требований FDA, EMA и других регуляторов к медицинскому ИИ.

Согласно новому отчету UPMC Center for Connected Medicine и KLAS Research, большинство больниц активно внедряют ИИ, однако менее половины имеют выделенную среду для тестирования инструментов перед использованием в уходе за пациентами. 63% систем здравоохранения описывают свою стратегию ИИ как развивающуюся или ad hoc, что указывает на разрыв между внедрением и управлением. UPMC предлагает решения, такие как платформа Ahavi для предварительного тестирования и постоянный мониторинг алгоритмов после внедрения.

В Государственную Думу России внесен законопроект, обязывающий владельцев сайтов и платформ с рекомендательными алгоритмами предоставить пользователям возможность скрывать в настройках контент, полностью или частично созданный с помощью искусственного интеллекта. Инициатива направлена на повышение прозрачности работы алгоритмов и защиту пользователей от потенциально недостоверной или манипулятивной информации, генерируемой ИИ. Законопроект предполагает внесение изменений в законодательство о информации, информационных технологиях и о защите информации. Авторы инициативы считают, что пользователи должны иметь право самостоятельно выбирать, хотят ли они видеть в лентах рекомендаций материалы, созданные нейросетями, особенно в контексте новостей и общественно значимой информации. Документ находится на стадии рассмотрения, его принятие потребует доработки механизмов маркировки ИИ-контента и технической реализации на платформах. Эксперты отмечают, что подобные меры уже обсуждаются в других странах, однако их практическая реализация сопряжена со сложностями в определении степени участия ИИ в создании контента.

Президент России Владимир Путин на пленарной сессии Восточного экономического форума (ВЭФ) заявил о необходимости обеспечения суверенитета и развития сотрудничества в сфере искусственного интеллекта. По словам главы государства, Россия уже движется в этих направлениях. Заявление касается государственной политики в области ИИ, включая вопросы технологической независимости и международного партнерства. Конкретные меры или инициативы в рамках заявления не уточняются. Материал носит политический характер и отражает позицию руководства страны по развитию ИИ-технологий.

Статья рассматривает применение ИИ для сортировки жалоб на медицинские изделия в рамках постмаркетингового надзора. ИИ помогает обрабатывать большие объемы текстовых данных, выявлять паттерны и обеспечивать консистентность оценок, что критично для соблюдения требований FDA. Автор также обсуждает потенциальные риски, связанные с ошибками моделей.

Статья доктора Падмалакшми Джанешвар из IQVIA рассматривает эволюцию материовигиляции — мониторинга безопасности медицинских устройств — в условиях роста числа подключенных и цифровых устройств. Автор подчеркивает необходимость создания отдельных процессов и управления для материовигиляции, отмечая, что лишь 22% лидеров отрасли успешно масштабировали ИИ, что указывает на разрыв в исполнении.