Юта стала первым штатом США, разрешившим ИИ-системе автономно обрабатывать повторные рецепты для пациентов с хроническими заболеваниями. Исследователи из Mindgard AI обнаружили уязвимости в чат-боте компании Doctronic, однако власти штата утверждают, что текущая система работает под строгим контролем.
Статья поднимает критически важный вопрос о том, как медицинские учреждения могут справедливо участвовать в ценности, создаваемой их данными и экспертизой для коммерческих ИИ-инструментов. Авторы отмечают, что именно клинические данные, рабочие процессы больниц и профессиональный опыт клиницистов являются ключевыми факторами, определяющими эффективность и рыночную стоимость ИИ-продуктов вендоров. Основная дилемма заключается в поиске баланса между коммерческой выгодой для больниц и защитой пациентов от новых форм ответственности. Статья рассматривает вопросы владения данными, распределения прибыли и потенциальных юридических рисков при создании ИИ-решений на основе медицинской информации. Проблема актуальна в контексте растущего внедрения машинного обучения в здравоохранении и необходимости формирования новых регуляторных рамок. Материал относится к категории отраслевых мнений, а не к исследованиям или продуктовым анонсам, что важно учитывать при оценке его практической ценности. Статья публикуется на портале Fierce Healthcare, который специализируется на новостях здравоохранения и медицинских технологий.
Статья рассматривает проблему создания враждебных AI-систем в управлении использованием медицинских услуг (utilization management), где системы провайдеров и плательщиков работают в противоположных интересах. Описывается сценарий, когда AI-модели провайдеров быстро одобряют запросы на основе клинических данных, в то время как AI-системы плательщиков одновременно помечают эти запросы для возможного отказа из-за потенциального мошенничества или избыточного использования. Результатом становится бесконечный цикл эскалации, аудитов и апелляций, который приоритизирует алгоритмические игры над ориентированными на пациента результатами. Статья ссылается на правило CMS-0057-F (Interoperability and Prior Authorization Final Rule), требующее реализации FHIR-основанных API и своевременных ответов от плательщиков к 2027 году, а также на обязательство AHIP и Blue Cross Blue Shield Association по улучшению процесса предварительной авторизации. Авторы предлагают дизайн AI-систем, ориентированный на сотрудничество, с прозрачностью, отслеживаемостью рекомендаций до клинических критериев и возможностью аудита клиницистами с обеих сторон транзакции. Ключевой вывод: автоматизация без согласованности интересов лишь ускорит дисфункцию системы, тогда как прозрачные и аудируемые AI-модели могут способствовать выравниванию интересов всех сторон.
Исследование рассматривает перспективы 19 экспертов, работающих с федеративными сетями для обмена медицинскими данными, фокусируясь на правовых и практических аспектах защиты данных в рамках GDPR и EHDS. Результаты показывают, что хотя федеративный подход имеет преимущества, такие как минимизация данных, существуют значительные трудности в соответствии с требованиями защиты данных.
Статья о применении машинного обучения для анализа реальных данных (RWE) в фармацевтической отрасли и регуляторных процессах FDA. ML-модели позволяют создавать синтетические контрольные группы, идентифицировать подгруппы пациентов, предсказывать ответ на терапию и обнаруживать нежелательные события. FDA выпустило руководство по использованию ИИ/ML в жизненном цикле разработки лекарств.