генеративные модели

В статье представлен PoolParty — новый программный пакет на языке Python, предназначенный для автоматизации и упрощения процесса проектирования сложных библиотек олигонуклеотидных пулов. Разработка решает проблему трудоемкости и высокой вероятности ошибок при создании последовательностей ДНК, которые критически важны для высокопроизводительных анализов и in silico анализа геномных моделей ИИ. Методология основана на использовании вычислительных графов, позволяющих описывать структуру библиотеки всего несколькими строками кода через гибкий API. Пакет включает более 50 встроенных операций, охватывающих мутагенез на уровне нуклеотидов и кодонов, вставку мотивов и генерацию баркодов. Одной из ключевых особенностей является использование «дизайн-карт» (design cards), которые предоставляют детальную документацию о способе генерации каждой конкретной последовательности. Инструмент представляет значительный интерес для исследователей, занимающихся биоинформатикой и обучением нейросетей на генетических данных.

Исследование посвящено применению дискретных диффузионных моделей для генерации реалистичных филогенетических деревьев опухолей, которые кодируют клональную родословную и приобретение мутаций при эволюции рака. Авторы обучают графовые трансформеры на наборе из примерно 12 500 синтетических филогенезов, охватывающих двенадцать различных эволюционных режимов, используя процесс обратного диффузионного шумоподавления на типизированных графах. Эксперименты по масштабированию выявили немонотонную зависимость между ёмкостью модели и её производительностью: модель среднего масштаба достигла высокой структурной валидности и близкого соответствия распределения тестовым данным, тогда как более глубокая модель провалилась при фиксированных гиперпараметрах оптимизации. Эксперименты с недостатком данных показали, что разнообразное обучение приводит к более переносимым представлениям по сравнению со специализацией на одном режиме. Результаты демонстрируют, что структурные ограничения филогенеза могут быть выучены неявно через безусловную дискретную диффузию. Это открывает перспективный путь к созданию генеративных моделей эволюции опухолей, что имеет прямое значение для персонализированной онкологии и понимания механизмов развития рака. Исследование вносит вклад в развитие методов машинного обучения для анализа онкологических данных.

Исследование Guo et al. представляет новый подход к генерации молекул с использованием языковой модели на базе архитектуры Mamba. Авторы демонстрируют, что комбинация аугментации данных и техники experience replay (переживания опыта) позволяет эффективно генерировать оптимизированные по свойствам малые молекулы. Методология основана на применении memory manipulation — механизмов управления памятью в нейросетях для сохранения и повторного использования ранее сгенерированных молекул. Исследование решает проблему sample efficiency — необходимости в большом количестве данных для обучения генеративных моделей в фармацевтике. Подход позволяет сократить количество необходимых примеров для обучения при сохранении качества сгенерированных молекул. Это имеет прямое значение для ускорения drug discovery, где генерация новых лекарственных кандидатов является ресурсоёмким процессом. Работа опубликована в Nature Machine Intelligence, что подтверждает научную значимость подхода для области ИИ в медицине.