Google DeepMind и Isomorphic Labs представили программу по предотвращению неправомерного использования ИИ в биологии и ускорению реагирования на вспышки заболеваний. Инициатива включает партнерства с государственными и научными организациями для балансировки между научным прогрессом и биобезопасностью.
Исследование посвящено прогнозированию рисков возникновения вспышек высокопатогенного гриппа птиц (HPAI) штамма H5N1 на территории Австралии на уровне местных органов самоуправления. Авторы применили модель максимума энтропии (MaxEnt) для оценки экологической пригодности среды, объединив её с пятью ключевыми предикторами: численностью диких птиц Южного океана, данными о 28 видах местных птиц, путями их миграции, а также плотностью популяций домашней птицы и куриц. В результате была создана карта рисков, которая выявила, что наиболее уязвимыми регионами являются Новый Южный Уэльс (NSW) и Виктория (VIC), несмотря на то, что текущие случаи были зафиксированы в Западной и Южной Австралии. Также зоны высокого риска охватывают Тасманию (TAS), в то время как Северная территория и значительные части Квинсленда классифицированы как зоны низкого риска. Данная прогностическая модель предоставляет пространственно-детерминированную базу для планирования целевого эпидемиологического надзора и усиления мер биобезопасности.
Исследование представляет DNAS-Bench — один из первых детерминированных бенчмарков, предназначенных для оценки надежности программного обеспечения по биобезопасности (BSS). Авторы анализируют уязвимости коммерческих систем синтеза ДНК, которые могут быть использованы злоумышленниками для создания биологического оружия. В ходе тестирования на наборе данных, основанном на списках селективных агентов и токсинов HHS и USDA, было выявлено, что система SeqScreen помечает 42% последовательностей как вредоносные, в то время как Commec — лишь 10,2%. Исследование показало, что простые методы манипуляции, такие как добавление «паддинга» (повторяющихся нуклеотидов), почти так же эффективны в обходе защиты, как и сложные методы встраивания вредоносных последовательностей в доброкачественный контекст. Критическим фактором является длина последовательности: при падении длины ниже 50–100 пар оснований (bp) уровень обнаружения резко снижается, что позволяет обходить системы защиты путем дробления генома на короткие фрагменты. Работа открывает путь к созданию более совершенных инструментов скрининга для защиты биопроизводственных циклов.
В данном исследовании представлен новый метод механистической интерпретируемости под названием VFUSE, предназначенный для аудита генеративных моделей белков на предмет создания опасных патогенов. Авторы обучают разреженные автоэнкодеры (SAE) на активациях диффузионных трансформеров, чтобы выявлять скрытые признаки, связанные с вирулентностью. Методология была протестирована на популярных моделях RoseTTAFold3 и RFDiffusion3, используемых для фолдинга и синтеза белков. Результаты показали, что линейные зонды, работающие в латентном пространстве SAE, обнаруживают опасные дизайны значительно эффективнее, чем стандартные представления моделей. Исследователям удалось идентифицировать моносемантические признаки, которые активируются исключительно на опасных структурах, достигнув показателя AUROC 0,84 при высокой статистической значимости (q < 10^-13). Данная работа имеет критическое значение для обеспечения биобезопасности при использовании ИИ в протеомике и синтетической биологии.