В статье, опубликованной в журнале npj Artificial Intelligence 7 октября 2026 года, представлена концепция и анализ атак типа «FramePoison» на системы генерации с извлечением данных (RAG), применяемые в медицинской сфере. В отличие от традиционных методов отравления данных, которые искажают сами факты или медицинские знания, предлагаемые атаки манипулируют контекстным оформлением (фреймингом) информации, что приводит к некорректным выводам генеративных моделей при сохранении фактической точности исходных документов. Исследование демонстрирует уязвимость современных медицинских RAG-систем к тонким изменениям в подаче данных, которые могут влиять на интерпретацию симптомов, диагнозов или рекомендаций по лечению. Авторы подчеркивают критическую важность устойчивости алгоритмов к таким манипуляциям, так как в медицине ошибки интерпретации контекста могут иметь прямые последствия для безопасности пациентов. Работа вносит значительный вклад в область безопасности ИИ в здравоохранении, выделяя новый вектор угроз, который требует пересмотра стандартов валидации и тестирования медицинских языковых моделей. Результаты исследования указывают на необходимость разработки новых методов защиты, фокусирующихся не только на проверке фактов, но и на анализе семантического контекста и структуры подачи информации в базах знаний.