12 статей
Исследование представляет фреймворк для аудита предвзятости алгоритмов в клинической поддержке принятия решений с использованием логов прослеживаемости данных. Авторы сравнивают логистическую регрессию и случайный лес, доказывая, что интерпретируемость модели не всегда гарантирует отсутствие дискриминации, и предлагают стандарт записи для соответствия требованиям FDA и ONC.
Статья освещает резонансный случай использования ChatGPT для попыток лечения рака кожи у 8-летней собаки породы стаффордширский бультерьер по кличке Рози. Владелец животного в течение двух лет пытался применять рекомендации, полученные от языковой модели, что спровоцировало масштабную дискуссию в экспертном сообществе о границах применения ИИ в ветеринарии и биомедицине. Основной вопрос заключается в рисках использования генеративного ИИ для постановки диагнозов и назначения протоколов лечения без участия квалифицированных специалистов. Кейс подчеркивает проблему «галлюцинаций» нейросетей и их неспособности нести ответственность за клинические решения. Данная ситуация служит важным прецедентом для обсуждения регулирования использования LLM (больших языковых моделей) в медицинских и ветеринарных целях, где цена ошибки — жизнь пациента. Исследование границ применимости ИИ в таких критических областях становится приоритетной задачей для биомедицинского сообщества.
Статья исследует применение методологий на базе ИИ для улучшения общественного здравоохранения и безопасности пациентов через использование онтологии человеческих фенотипов (HPO). Авторы предлагают пятиэтапную стратегию PHM, акцентируя внимание на риск-стратификации, управлении данными, этике и интеграции передовых технологий, таких как федеративное обучение и квантовые вычисления.
Статья анализирует геополитическое и этическое противостояние между компанией Anthropic и правительством США. Конфликт обострился после того, как руководство Anthropic отказалось убирать этические ограничения (guardrails), препятствующие использованию модели Claude в автономном вооружении и массовой слежке, что привело к санкциям со стороны Пентагона и разрыву контракта на 200 млн долларов. В ответ на давление Вашингтона, Великобритания предпринимает активные шаги по привлечению компании, предлагая варианты от расширения офисов до двойного листинга на Лондонской фондовой бирже. Британское правительство рассматривает приверженность Anthropic принципам безопасности ИИ как стратегическое преимущество, а не препятствие. В то время как в США компания признана «риском в цепочке поставок», Лондон стремится создать благоприятную регуляторную среду для развития этичного ИИ. Ситуация подчеркивает растущий разрыв в подходах к управлению ИИ между США и Европой.
Статья анализирует этические и практические риски использования ИИ-компаньонов для пожилых людей с деменцией на фоне дефицита гериатров. Автор подчеркивает разрыв между технологическим потенциалом (мониторинг, управление лекарствами) и реальной потребностью в человеческом уходе и обучении опекунов.
Исследование представляет собой разработку системы искусственного интеллекта, предназначенной для автоматического обнаружения признаков психиатрических кризисов в текстовых сообщениях пользователей. Авторы создали специализированный датасет для обучения моделей машинного обучения, содержащий размеченные примеры текстовых диалогов с идентифицированными кризисными состояниями. Методология включает использование современных подходов глубокого обучения, включая трансформерные архитектуры, адаптированные для анализа психологического контекста сообщений. Система работает как «guardrail» (защитный барьер), который может предупреждать о потенциальных рисках самоповреждения или суицидальных намерений в реальном времени. Исследование опубликовано в ведущем журнале npj Digital Medicine (Nature Portfolio), что подтверждает научную строгость работы. Практическая значимость заключается в возможности интеграции такой системы в чат-боты, платформы психологической помощи и системы мониторинга ментального здоровья. Ключевые результаты включают оценку точности модели и анализ этических аспектов применения ИИ в чувствительных сферах психиатрической помощи.
Статья оценивает компромиссы между открытыми и проприетарными большими языковыми моделями (LLM) для извлечения клинической и биомедицинской информации. Авторы анализируют пять ключевых аспектов: производительность, воспроизводимость, стоимость, прозрачность и этику. Исследование показывает, что гибридные подходы могут обеспечить баланс между инновациями и подотчетностью в клиническом применении ИИ.
Скейпинг-обзор 44 исследований examines challenges and strategies for deploying medical AI in low-resource settings. The review found that successful implementation depends more on proper systems (infrastructure, data standards, capacity building, governance) than advanced technology itself.
Исследователи Google DeepMind изучают риски вредоносного манипулирования искусственным интеллектом в различных сферах, включая здравоохранение и финансы, на основе чего разрабатываются новые меры безопасности. Статья представляет собой краткое упоминание о проводимых исследованиях, но не содержит деталей методологии, конкретных результатов или практических применений в медицине. Исследование фокусируется на безопасности ИИ-систем и предотвращении потенциально вредоносного использования технологий, что относится к области регулирования и этических аспектов ИИ в здравоохранении. Однако в тексте отсутствуют конкретные данные о клинических применениях, диагностических инструментах или терапевтических решениях. Материал носит информационно-обзорный характер и не предоставляет достаточной информации для оценки практической значимости для медицинской практики. Отсутствуют ссылки на опубликованные исследования, экспериментальные данные или внедрение в клиническую среду.
Бывший главный хирург США д-р Джером Адамс и генеральный директор eHealth Деррик Дук пишут редакционную статью о применении искусственного интеллекта для модернизации системы Medicare. Авторы рассматривают исторические уроки как основу для обсуждения новых подходов к внедрению ИИ в национальную систему медицинского страхования. Статья фокусируется на балансе между эмпатией в медицине и эффективностью, которую может обеспечить ИИ при ответственном использовании. Обсуждаются ключевые вопросы регулирования, этики и практической реализации технологий ИИ в государственной системе здравоохранения. Авторы подчеркивают важность сохранения человеческого фактора при автоматизации процессов. Материал представляет собой позицию экспертов по вопросам политики в области цифрового здравоохранения. Статья адресована политикам, руководителям здравоохранения и специалистам по управлению медицинскими системами.
Статья рассматривает роль чатботов как инструментов образования в области сексуального и репродуктивного здоровья, где стигма и ограничения системы здравоохранения затрудняют доступ к информации. Исследование показывает, что чатботы могут улучшить доступ к информации и вовлеченность пользователей, но текущие данные о долгосрочных поведенческих и медицинских исходах ограничены. Автор подчеркивает важность интеграции чатботов в комплексные стратегии здравоохранения с учетом этических аспектов.
Статья рассматривает роль искусственного интеллекта как когнитивного партнера для клиницистов, помогая организовать и контекстуализировать большие объемы медицинской информации. Автор утверждает, что ИИ должен не заменять врачей, а усиливать их клиническое суждение, эмпатию и человеческое взаимодействие с пациентами.
