Российская компания «Кросстех» отмечает растущий рыночный спрос на услуги по анализу защищенности систем искусственного интеллекта. Основная проблема заключается в уязвимости современных ML-моделей к специфическим атакам, таким как отравление данных (data poisoning) и состязательные атаки (adversarial attacks), которые могут исказить результаты работы алгоритмов. Специалисты подчеркивают, что внедрение ИИ в критически важные бизнес-процессы требует обязательного аудита безопасности для предотвращения манипуляций с выводами моделей. В рамках исследования запросов выявлено, что компании стремятся минимизировать риски несанкционированного доступа к весам моделей и защиты интеллектуальной собственности. Данная тенденция указывает на переход ИИ-решений из стадии чистого экспериментирования в фазу промышленной эксплуатации, где безопасность становится приоритетным фактором. Практическая значимость заключается в необходимости разработки новых стандартов кибербезопасности, специфичных именно для архитектур нейронных сетей.