безопасность пациентов

В статье рассматривается растущее использование генеративного искусственного интеллекта (GenAI) для автоматического составления черновиков ответов на сообщения пациентов через медицинские порталы с целью снижения нагрузки на врачей. Исследование выявило, что, несмотря на заметный эффект для оптимизации рабочего процесса, существуют серьезные риски безопасности, когда клиницисты пропускают ошибки или принимают сгенерированный текст без должной редактуры. Авторы предлагают комплексную модель управления (governance), которая включает в себя ограничение области применения ИИ, многоуровневую оценку рисков и обязательную подотчетность человека как конечного автора сообщения. Предложенная методология также делает упор на аудит процессов и прозрачность для пациентов, чтобы избежать нормализации небезопасного делегирования задач алгоритмам. Внедрение таких механизмов контроля критически важно по мере масштабирования ИИ и его глубокой интеграции в электронные медицинские карты (EHR). Это позволит сохранить эффективность технологий, не жертвуя качеством и безопасностью медицинской коммуникации.

В отношении больницы Bridgeport, входящей в систему Yale New Haven Health, подан судебный иск, в котором утверждается о существовании «культуры невнимательности и ненадлежащего ухода». Основной акцент в иске сделан на рисках, связанных с использованием модели теле-реанимации (tele-ICU), когда за пациентами наблюдают удаленные специалисты. Семья погибшего пациента утверждает, что использование внебольничных провайдеров для мониторинга критических состояний в данном случае привело к фатальным последствиям. Инцидент подчеркивает системные уязвимости при внедрении технологий дистанционного мониторинга в отделениях интенсивной терапии. Данный случай поднимает важные вопросы юридической ответственности и стандартов безопасности при использовании телемедицинских решений в высокорисковых медицинских сценариях.