конфиденциальность

Представлен фреймворк TeleZK-FL для приватного федеративного обучения диагностических ИИ-моделей в телемедицине с использованием квантования и zero-knowledge доказательств непосредственно на граничных устройствах. Система ускоряет генерацию криптографических доказательств в 25 раз, сокращает объём передаваемых данных на 75% при сохранении диагностической точности (AUC 0.877 для рентгена грудной клетки, 0.891 для ЭКГ).

Исследование посвящено критической проблеме безопасности при использовании ИИ-ассистентов (ambient scribing) для транскрибации и создания медицинских записей. Авторы проанализировали, как большие языковые модели (LLM) обрабатывают разговоры между врачом и пациентом, фокусируясь на риске несанкционированного включения персональных данных третьих лиц в итоговые клинические заметки. В ходе экспериментов тестировались модели LLaMA 3.1 (8B и 70B), Mixtral 8×7B, 8×22B, а также проприетарные модели Claude 3.5 Haiku и Sonnet. Результаты показали, что все протестированные модели допускали утечки конфиденциальной информации третьих лиц, даже если они правильно идентифицировали её как неприемлемую для записи. Использование специальных инструкций по приватности снизило частоту утечек, но не обеспечило полной защиты. Исследование подчеркивает необходимость разработки систем с принципом «privacy-by-design» и разделения процессов генерации текста и редактирования конфиденциальных данных для минимизации рисков в реальной клинической практике.