Статья рассматривает роль человеческого фактора в безопасности медицинских устройств с ИИ, подчёркивая, что риски возникают не из-за алгоритмов, а из-за взаимодействия клиницистов с ИИ-выводами. Автор объясняет важность калибровки доверия, интеграции в рабочие процессы и коммуникации неопределённости для предотвращения ошибок, таких как автоматизированная предвзятость.
В рамках деятельности ОЭЗ «Технополис Москва» резидент компании выпустил 334 досмотровых комплекса (интроскопа), оснащенных технологиями искусственного интеллекта. Данные устройства предназначены для автоматизированного контроля и досмотра грузов, где алгоритмы машинного обучения помогают выявлять запрещенные предметы и анализировать содержимое объектов в режиме реального времени. Внедрение ИИ в подобные системы позволяет значительно повысить точность обнаружения угроз и снизить нагрузку на операторов. Масштаб производства в 334 единицы за 2025 год свидетельствует о растущем спросе на интеллектуальные системы безопасности. Технология имеет косвенное отношение к медицине, так как подобные методы визуализации и автоматизированного анализа изображений могут быть адаптированы для медицинского диагностического оборудования. Проект демонстрирует успешную интеграцию ИИ в высокотехнологичное промышленное производство.
Компании Asylon и Thrive Logic объявили о партнерстве для интеграции робототехники и агентного ИИ в системы охраны периметра. Система объединяет автономное патрулирование роботами с аналитикой ИИ-агентов для автоматического реагирования на инциденты в режиме реального времени.
Виртуальный ассистент «Ева» от российского оператора связи «МегаФон» получил новую функцию распознавания искусственного голоса и дипфейков. Технология позволяет отличать реальный голос человека от синтезированного, что особенно актуально в эпоху развития нейросетей для генерации речи. Система анализирует акустические характеристики голоса, включая микровибрации и артефакты сжатия, характерные для синтезированной речи. Технология может быть применена в телемедицине для верификации пациентов при удалённых консультациях и предотвращения мошенничества с медицинскими страховками. Распознавание дипфейков критически важно для защиты конфиденциальной медицинской информации и предотвращения несанкционированного доступа к электронным медицинским картам. Технология использует алгоритмы машинного обучения, обученные на больших массивах данных с реальными и синтезированными голосами. Внедрение таких систем повышает безопасность цифровых медицинских сервисов и доверие пациентов к онлайн-консультациям. Однако статья не содержит конкретных метрик точности распознавания или результатов клинических испытаний.
Научно-технический центр информационных технологий «Роса» и компания «Сафиб» завершили тестирование совместной работы системы удаленного мониторинга «Ассистент» с каталогом «Роса Dynamic Directory». Данное решение направлено на интеграцию систем управления доступом и мониторинга в медицинской инфраструктуре. Тестирование подтвердило техническую совместимость продуктов, что позволяет объединить их в единый контур информационной безопасности медицинских учреждений. Система «Ассистент» предназначена для дистанционного наблюдения за пациентами и сбора медицинских данных, а «Роса Dynamic Directory» обеспечивает централизованное управление идентификацией и доступом. Внедрение такой интеграции упрощает администрирование медицинских информационных систем и повышает уровень защиты конфиденциальных данных пациентов. Решение может быть развернуто в больницах и клиниках для централизованного управления доступом к системам телемедицины и удаленного мониторинга. Однако в предоставленном тексте отсутствуют детали о применении искусственного интеллекта или машинного обучения в данных системах.
Министерство цифрового развития России вынесло на общественное обсуждение проект федерального закона, устанавливающего единые правила разработки и применения искусственного интеллекта в стране. Документ закрепляет риск-ориентированный подход к регулированию ИИ, вводит ключевые термины и распределяет ответственность между разработчиками, операторами и пользователями систем искусственного интеллекта. Ключевым механизмом станет требование допуска к использованию в госсекторе и на критической инфраструктуре только «доверенных моделей», прошедших проверку по критериям безопасности и качества. Эти требования будут распространяться и на сферу здравоохранения, что означает обязательную валидацию медицинских ИИ-систем перед их внедрением в клиническую практику. Законопроект создаёт правовую основу для контроля качества медицинских алгоритмов диагностики и лечения, защиты данных пациентов и предотвращения использования некорректных моделей. Регулирование направлено на баланс между развитием инноваций и обеспечением безопасности пациентов, что особенно актуально для телемедицины, медицинской диагностики и поддержки врачебных решений. Документ представляет собой первый системный шаг к созданию национальной экосистемы доверенного искусственного интеллекта в России.