Sequence diffusion
Диффузия в пространстве sequences. Established English term: Sequence diffusion.
Что это за класс
Определение класса — общее для всех papers и tools с этим architecture_id. Это не карточка одной нейросети. После каждого нумерованного заголовка сначала идёт блок «Общее для класса», затем разбор конкретных статей, как раньше.
Диффузия sequences — генератор дискретных аминокислотных токенов. Вперёд: identity постепенно заменяется случайными буквами алфавита (D3PM, absorbing / mask, Gaussian-on-logits — подтипы разные). Назад: сеть восстанавливает чистую sequence. Не нужно писать белок слева направо.
Удобно зажать мотив или каркас: эти позиции не шумят или клемпятся на inference. Отсюда infilling и humanization-like redesign без полной AR-цепочки.
Что на выходе. Sequence (иногда с likelihood). 3D не следует из токенов: фолд проверяют внешним predictor. Это не Cartesian DDPM и не frame diffusion.
Чего класс не делает. Не гарантирует сворачиваемость и не измеряет affinity. Мало шагов $T$ даёт недоденoise. Слишком большой mask превращает модель почти в безусловную генерацию.
Каталог: EvoDiff (D3PM/OADM), HuDiff / HuAbDiffusion и родственные discrete diffusion. ESM3 — скорее masked multimodal LM, его канон на masked infilling / joint generation, не «ещё один D3PM».
В разделах ниже — общая дискретная постановка, затем различия papers.
Sequence diffusion — generator amino-acid state: forward noising токенов (categorical $Q_t$, absorbing [MASK], или Gaussian на scaled one-hot $L\times 20$), reverse $T$ шагов. Это не Cartesian coordinate DDPM, не inverse folding и не affinity predictor. Одна матрица $Q_t$ не описывает EvoDiff-D3PM, ProteinGenerator и HuDiff.
1. Область определения
Общее для класса
Этот пункт фиксирует роль класса в пайплайне и границу с соседями. Класс работает с дискретной sequence (токены аминокислот). 3D, если нужна, приходит снаружи. Краткая seed-формула: «Amino-acid tokens постепенно зашумляются до random categories, а модель учится восстанавливать sequence. Удобно для masked local redesign и unconditional generation». Что метод выдаёт или оценивает: «Discrete sequence state». Вход: «Noisy amino-acid tokens; optional MSA/motif masks». Задачи каталога, которые класс закрывает: general-protein-sequence-generation; humanization. Явно не для: de-novo-backbone-generation. Дальше по разделу — какие tools имеют этот architecture_id и какие постановки нельзя смешивать.
[INTERPRETATION]Роль — generator (density model на дискретной цепи токенов). Не sequential assay loop и не geometric SE(3) inductive bias как определение класса. ProteinGenerator дополнительно декодирует структуру через RoseTTAFold — пересечение с joint sequence–structure generation, не лицензия копировать Cartesian DDPM.
[PAPER]Generated state — amino-acid tokens $x_0$ (и, у PG, сопряжённая структура $y$). Intermediate $x_t$ — noisy tokens / scaled logits / [MASK]/#, не атомы. Scored embeddings без reverse chain — не этот класс. Austin discrete state; Lisanza L×20; Alamdari tokens
[MATRIX]Задачи: general protein sequence generation и motif scaffolding (EvoDiff, sequence-first de novo); humanization / framework redesign (HuDiff, HuAbDiffusion, humanization-framework); joint/multistate (ProteinGenerator, joint-multimodal).
[PAPER]Это не masked-token infilling как канон: infill-страница — OADM / ILM / generative MLM. EvoDiff-D3PM ($Q$, $T=500$, $x_T$ uniform AA) живёт здесь. OADM у того же tool имеет оба id; уравнения OADM подробно там. Alamdari: D3PM only for discrete corruption; OADM for masking
[PAPER]Это не autoregressive generation как left-to-right без absorbing FR: ProGen пишет префикс. HuDiff цитирует ARDM (Hoogeboom) и также стоит в AR-id каталога — не гадать, что это GPT; train target — order-agnostic unmask FR, не next-token L→R. HuDiff Methods vs traditional AR chain rule; extra_constraints
[INTERPRETATION]Это не joint sequence–structure diffusion: DiffAb categorical CDR — совместный type+Cα+SO(3) state. Не переносить DiffAb $Q^{\mathrm{type}}$ как default этого класса. Это не coordinate-diffusion / frame-diffusion: нет xyz/frames как диффузионный state (PG диффундирует sequence tensor).
[PAPER]Это не protein language models целиком: PLM может быть AR/MLM/frozen $E$. Sequence diffusion задаёт марковскую forward/reverse цепь по $t$. ESM LL rerank у HuAbDiffusion — evaluator, не generator. HuAbDiffusion Variants ranking ESM-1b/1v
[MATRIX]Catalog tools: EvoDiff, HuDiff, HuAbDiffusion, ProteinGenerator. Путают с RFdiffusion (structure-space), ProGen, ESM3, DiffAb (другой architecture_id).
2. Интуитивный принцип
Общее для класса
Общий механизм Sequence diffusion: что меняется за один шаг inference и за счёт какого inductive bias метод может работать. «Amino-acid tokens постепенно зашумляются до random categories, а модель учится восстанавливать sequence. Удобно для masked local redesign и unconditional generation». Главный эмпирический рычаг класса — температура / mask rate / число шагов unmask или denoising; это не «магия одной статьи». Для Sequence diffusion внутренние числа модели (likelihood, score, acquisition, pLDDT, DockQ, predicted $\Delta\Delta G$) не являются экспериментальным affinity / $K_d$ / ELISA / BLI, пока это явно не измерено вне сети. Абзацы ниже — как принцип формулируют конкретные papers, не определение всего класса.
[INTERPRETATION]При inference с $x_T$ (uniform AA, all-MASK, или Gaussian $L\times 20$) сеть итеративно восстанавливает $x_0$. Меняются токены (и у PG — предсказанный fold). Не физическая траектория фолдинга.
[PAPER]Четыре несовместимых forward. (i) EvoDiff-D3PM: мутации по $Q$ до uniform. (ii) Absorbing mask: FR → [MASK]/#, CDR зажаты (HuAb, HuDiff, EvoDiff-OADM). (iii) ProteinGenerator: Gaussian на scaled one-hot, не Cat $Q$. (iv) DiffAb type channel — joint-страница. Alamdari Fig. 1B; Lisanza Eq. 1; HuAb Methods MASK; HuDiff absorbing FR
[PAPER]Рычаг EvoDiff-D3PM: выбор Uniform vs BLOSUM $Q$, $T=500$. PAPER. Авторы для downstream взяли OADM-640M, не D3PM (ppl и foldability хуже). Guidance как future — D3PM, потому что токен можно править каждый шаг. Alamdari selected OADM as EvoDiff-Seq; Discussion guidance fits D3PM
[PAPER]Рычаг PG: sqrt noise, self-conditioning, logit clamp $[-3,3]$, guidance potentials (AA composition, charge, hydropathy, DSSP, multistate logit mix), partial noise $\lambda$. PAPER. Lisanza Methods Inference clamp; partial noising λ
[PAPER]Рычаг HuDiff: $T=F$ (длина FR), permutation $\sigma$ FR sites, AbNatiV fine-tune (Gumbel), Nb de vs inp (сохранить гидрофильный FR2). PAPER. t determined by framework length; Nb de/inp
[PAPER]Рычаг HuAbDiffusion: $T=512$, temperature 0.7 VH / 0.65 VL, затем ESM log-likelihood rerank. PAPER. Rerank ≠ generator. HuAb sampling temperatures 0.7 and 0.65; Variants ranking
[PAPER]Предостережение. PPL, OmegaFold/AF pLDDT, motifRMSD, scPerplexity, TM, ESM LL, AbNatiV/OASis, PG design pLDDT, Rosetta не $K_d$ / ELISA / BLI / ADA. Humanness ≠ immunogenicity. PG ESM pseudo-perplexity «indicative of experimental success» в цитируемой литературе — не Kd этого класса. Lisanza ESM ppl citation; HuAb pLDDT/scPPL tables in silico
[PAPER]EvoDiff Cox15 8/8 и MDM2 BLI — кампании OADM EvoDiff-Seq, не D3PM (не переносить на эту страницу как успех D3PM). HuDiff 0.15 nM vs parent 0.12 nM — experiment одной murine mAb preprint/journal, не класс. Alamdari EvoDiff-Seq = OADM; HuDiff Fig. 3d BLI
3. Формальная математическая постановка
Общее для класса
Сначала родовая математика класса (что оптимизируют / что семплируют), общая для реализаций с этим id. Seed-запись: «Discrete DDPM/D3PM: $q(x_t\mid x_{t-1})$ — категориальный noise. Denoiser предсказывает $p(x_0\mid x_t)$ или posterior $p(x_{t-1}\mid x_t)$». Подтипы имеют отдельные уравнения: нельзя переносить diffusion score, UCB, AR NLL, FAPE или MLM $\Delta\ell$ на эту страницу, если это не её train target. Формулы с пометкой tool-specific относятся к одному инструменту. Ниже — разбор papers по подтипам.
[INTERPRETATION]Сначала родовой D3PM Austin. Затем подтипы с разными $Q$/ядрами. Не одна $Q_t$ на EvoDiff, PG и HuDiff. Не подставлять seed one-liner как уравнение инструмента.
[INTERPRETATION]Формулы, которые не являются default этого класса: Ho Cartesian VP-DDPM на xyz; Lipman CFM; UCB (PG сравнивает guidance с qUCB baseline — не train PG); FAPE как уравнение EvoDiff/HuDiff; Meier $\Delta\ell$; AR NLL ProGen; DiffAb SO(3)/Cα score; IgLM ILM.
[PAPER]FAPE есть в train ProteinGenerator (tool-specific) вместе с sequence CE — не родовой loss класса и не EvoDiff. Не сравнивать EvoDiff ppl, PG AF2 filters и HuDiff BLI как один benchmark. Lisanza CE on sequence and FAPE on structure
[PAPER]Austin: BERT может быть one-step D3PM; AR — вырожденный discrete diffusion. Это связь классов, не лицензия ставить BERT 15% как EvoDiff-D3PM. Austin §4 BERT is a one-step diffusion model
| Символ | Тип | Определение |
|---|---|---|
| $x_t$ | one-hot token | дискретное состояние позиции (или независимо по L) |
| $Q_t$ | K×K stochastic matrix | forward kernel на шаге t |
| $K$ | int | размер алфавита |
Оптимизируется reverse $p_\theta(x_{t-1}\mid x_t)$ / $\tilde p_\theta(x_0\mid x_t)$. Семплируется $x_0$ за $T$ шагов. Affinity в $Q$ не входит.
| Символ | Тип | Определение |
|---|---|---|
| $\beta_t$ | noise level | $\in[0,1]$; schedule tool-specific |
Forward перемешивает категории равномерно. Не BLOSUM и не Gaussian logits.
| Постановка | Train target | Sampler/декодер | Что в каталоге |
|---|---|---|---|
| Sequence diffusion (эта страница) | D3PM $L_{vb}$/CE / Gaussian+FAPE / ARDM FR | T discrete or Gaussian steps | EvoDiff-D3PM, PG, HuAb, HuDiff |
| Masked-token infilling | unmask $s_M\mid s_{\setminus M}$ | OADM/ILM/MLM | EvoDiff-OADM, IgLM, ESM3 |
| Autoregressive generation | next-token CE L→R | ancestral prefix | ProGen; HuDiff также в этом id |
| Coordinate diffusion | score/noise на xyz | ODE/SDE coords | RFdiffusion, Chroma — не этот id |
| Joint seq–str diffusion | type+frames (+DiffAb $Q^{\mathrm{type}}$) | joint reverse | DiffAb; не HuAb FR-only |
Подтип A — EvoDiff-D3PM Uniform / BLOSUM (не OADM)
[PAPER]Hybrid $L_{vb}+\lambda L_{ce}$, $\lambda=0$, $T=500$. Uniform: doubly stochastic $Q_t$, schedule $(T-t+1)^{-1}$. BLOSUM62 → softmax → Sinkhorn; $\beta$-schedule, половина мутаций к $t=250$. Синусоидальный $t$ (не implicit mask count). $x_T$ — uniform AA. Tool-specific EvoDiff. CODE NR. Alamdari Methods D3PM λ=0 T=500; Uniform and BLOSUM subsections
| Символ | Тип | Определение |
|---|---|---|
| $\lambda$ | weight | CE auxiliary; выбран 0 после ablation |
| $T$ | int | 500 mutation steps |
Train: NLL bound на undo-mutations. Sample: 500 шагов от uniform AA. PPL ≠ fold ≠ Kd.
Подтип B — ProteinGenerator sequence-space Gaussian (не Cat $Q$)
[PAPER]Scaled one-hot: true $=1$, else $-1$ ($\times 2-1$). Ho forward в непрерывном $L\times 20$. Sqrt schedule. Loss: CE($x_0$)+FAPE/bond/distogram/lddt на $y$ + KL на $x_{t-1}$. Self-cond. Inference: $x_{t-1}\sim q(x_{t-1}\mid x_0)$ лучше чем $q(\cdot\mid x_0,x_t)$. Tool-specific ProteinGenerator. Lisanza Methods Sequence representation Eq. 1; Training; Inference
| Символ | Тип | Определение |
|---|---|---|
| $\bar\alpha_t$ | schedule | sqrt noise schedule (ref. 10 in paper) |
| $L$ | length | residues |
Train: предсказать чистую sequence+structure. Sample: $T_{\mathrm{inf}}$ шагов от Gaussian; часто 25. AF2 filter — evaluator.
Подтип C — HuAbDiffusion absorbing MASK на FR (не mutation $Q$)
[PAPER]D3PM+DiffusionBERT-style: V-region → [MASK], CDR prefix всегда видим. $T=512$. Vocab 26. Не BLOSUM. Не PG Gaussian. Tool-specific HuAbDiffusion. Repo NR. Methods discrete Cat Q; CDRs-conditional; 512 steps
| Символ | Тип | Определение |
|---|---|---|
| $L_{\mathrm{V}}$ | int | 149 aligned V (AHo) |
Train: unmask FR given CDRs. Sample: 512 steps, T=0.7/0.65. ESM LL — post-hoc evaluator.
Подтип D — HuDiff ARDM absorbing FR (не D3PM $Q_t$)
[PAPER]Corrupts FR напрямую (как MLM), не строит $Q_t$. $T=F$ длина FR; $\sigma\sim U(S_F)$. Pretrain: $L^{Ab}=F\cdot L_t + L_{\mathrm{assistant}}$. Fine-tune: max AbNatiV VH/VL via Gumbel-Softmax. Tool-specific HuDiff. Также architecture_id autoregressive-generation — не ProGen. HuDiff Methods Objective function Eqs. 3–8; D3PM constructs Q whereas HuDiff corrupts directly
| Символ | Тип | Определение |
|---|---|---|
| $F$ | int | число FR позиций (T при inference) |
| $\sigma$ | permutation | случайный порядок unmask FR |
Train: order-agnostic FR reconstruction + CDR assistant. Sample: T=F unmask steps from absorbing FR. AbNatiV ≠ Kd.
4. Представление данных
Общее для класса
Класс читает «Noisy amino-acid tokens; optional MSA/motif masks». Нужно отличать тензор сети (токены AA, mask / time index, опционально conditioner (framework, motif)) от внешнего файла (fasta, IMGT numbering, CDR mask). Размерности и аугментации без paper/code остаются NR. Дальше — как это кодируют конкретные реализации.
[PAPER]Узлы: позиции токенов. Рёбра: ByteNet dilated conv (EvoDiff-Seq), MSA Transformer, RF pair tracks (PG), Transformer/Roformer (HuAb/HuDiff). Time: sinusoidal 1D (EvoDiff-D3PM, HuAb embed time in each block); OADM implicit; PG timestep in sequence template; HuDiff $t$ = сколько FR ещё masked. Alamdari sinusoidal vs implicit; HuAb time embedding; Lisanza timestep feature
[PAPER]EvoDiff-Seq: UniRef50, sample length ≤2048. D3PM $K$ = standard AA (+ J,O,U uniform rows; MSA <GAP>). Hidden: 38M $d=1020$ 16 layers / 640M $d=1280$ 56 layers. CODE NR. Alamdari ByteNet 38M/640M; BLOSUM extra rows
[PAPER]PG: $L\times 20$ real tensor. DSSP concat 25% train, mask 0–90%. Tasks mix: 40% diffusion, 30% seq2str, 30% fixed-backbone design. Motif: 1–4 spans 4–8 aa или random active-site unmask. Contig — внешний файл/строка, не выученный tensor (CLI NR). Lisanza Training 40/30/30; motif spans
[PAPER]HuAb: OAS 2M H + 2M κ + 2M λ unpaired; AHo 149; North CDR; CDR concat length 64 (H) / 67 (L); vocab 26; input CDR prefix + [SEP] + V. Transformer 12L, 16 heads, $d=1024$. Batch 64 AdamW; lr HTML обрыв — NR. HuAb Materials dataset; 12 layers 16 heads 1024; batch 64
[PAPER]HuDiff-Ab: IMGT VH 152 + VL 139 = 291; vocab 23 (-,#,X+20 AA). CNN kernel 7. Split pretrain 1,738,321 paired 19:1; finetune mouse 19,387 19:1. Nb length 152. Hidden width Roformer — NR. HuDiff Methods 291; 1,738,321; kernel 7
[PAPER]Внешние файлы: PDB для PG templates/hotspots/DSSP; OAS dumps; library CSV нет как вход generator. HuAb service YabXnization — не локальный checkpoint. Lisanza optional structural information; HuAb YabXnization URL
[PAPER]Аугментации: EvoDiff MSA Rand vs MaxHamming depth 64×512. PG recycle 1–3 structure; GMM2/GMM3 sampling. HuDiff permutation $\sigma$ FR. 3D rotation: только PG structure track, не EvoDiff tokens. Alamdari MSA 64×512; Lisanza recycle 1–3
[INTERPRETATION]Masks: D3PM нет [MASK] канона; absorbing tools — [MASK]/# на FR. Classifier-free ELISA — нет.
[INTERPRETATION]DiffAb type one-hot 21 — не data-repr catalog tools этого id.
5. Физическое представление
Общее для класса
Математический объект класса соответствует такому физическому state: «Discrete sequence state». State — identity токенов. Перестановка residues ломает биологическую sequence; лабораторная поза кристалла на токены не действует. Masked / noisy token ≠ фолдинг. Ниже papers фиксируют, какой вариант они выбрали.
[INTERPRETATION]$x_i$ ↔ однобуквенный код (или gap/pad/mask). Assay $y$ (BLI, ELISA, microscopy, CD, SEC) не координата диффузии.
[INTERPRETATION]SE(3): не применимо к EvoDiff/HuDiff/HuAb (нет coords в generator state). PG: RF декодирует $y$; диффузионный state — sequence tensor, не IGSO(3). Global rotation ломает PG templates, не EvoDiff tokens.
[PAPER]Перестановка residues в биологическом порядке ломает смысл, кроме явного $\sigma$ HuDiff и OADM. Concat VH||VL: HuDiff-Ab paired 291; HuAb генерирует цепи отдельно (H и L temperatures разные); EvoDiff unpaired UniRef. HuDiff paired 291; HuAb 0.7 vs 0.65
[PAPER]Side chains: отсутствуют в EvoDiff/Hu* tokens. PG — в предсказанной структуре RF; pack MPNN не канон (30% train — fixed backbone design task внутри RF). Lisanza 30% fixed backbone sequence design
[PAPER]$x_t$ / # / Gaussian logits ≠ фолдинг-траектория и ≠ энергия. AF2/OmegaFold/Chai на generated sequence — predictor. HuAb Chai pLDDT; Alamdari OmegaFold
[PAPER]Antigen coords: нет у EvoDiff-D3PM/HuAb/HuDiff generator. PG hotspots/DSSP optional. Не ELISA epitope tensor. HuDiff CDR-only input; Lisanza hotspot unmask
[PAPER]MSA EvoDiff — evolutionary context, не $y$. Subsample 64. Alamdari depth 64
[PAPER]Black-hole init PG structure — математическая заглушка, не физический collapse. Lisanza black-hole initialized structure
6. Физико-химический смысл
Общее для класса
Какие физико-химические оси класс вообще может «видеть». Этот класс — в первую очередь identity и sequence statistics; геометрию — только если conditioner её подаёт. H-bonds, электростатика, растворитель, энтропия и experimental affinity отсутствуют, пока нет явной energy / assay головы: модель тогда не считает $\Delta G$. Таблица ниже — как конкретные методы кодируют эти оси; строка про один tool не обобщается на класс.
[INTERPRETATION]Нет energy head у EvoDiff-D3PM/HuAb/HuDiff. PG FAPE — геометрический loss RF, не $\Delta G$ и не SPR. Запрещено писать, что класс «считает $\Delta G$».
| Признак или операция модели | Физико-химическая интерпретация | Прямо / косвенно / внешне | Важное ограничение |
|---|---|---|---|
| Identity AA | первичная структура | прямо: Cat tokens / L×20 logits / MASK | D3PM BLOSUM — статистика подстановок, не mutational chemistry in vivo |
| Backbone / frames / torsions | 3D fold | EvoDiff/Hu* — не в state; PG — RF decode + FAPE | pLDDT predictor ≠ crystal; PG design pLDDT ≠ Kd |
| Antigen / hotspot | интерфейс | не представлена (Hu*, EvoDiff-D3PM); PG — опциональные templates/hotspots | humanization tools не antigen-conditioned co-design |
| H-bonds / electrostatics / solvation | стабильность / NSB | PG charge/hydropathy guidance косвенно; иначе не явно | guidance ≠ измеренный pI/SAP как loss EvoDiff |
| Evolutionary statistics | UniRef / OAS / BLOSUM / germline | прямо корпуса; BLOSUM Q; AbNatiV fine-tune HuDiff | OAS unpaired HuAb vs paired HuDiff — разные biases |
| Experimental y | BLI / ELISA / CD / localization | не в D3PM/HuAb diffusion loss; HuDiff fine-tune — AbNatiV не BLI; PG iterative GB1 — classifier на fitness, не этот catalog default | не переносить HuDiff nM на EvoDiff-D3PM |
7. Что обучается
Общее для класса
Общий train target класса: «Variational bound / cross-entropy on clean tokens». Нужно назвать, какие модули обучаются, какие frozen (PLM, MSA, RoseTTAFold trunk), и есть ли в loss negative / non-binder / affinity labels. Если в постановке класса labels нет — ответ «нет», даже если кто-то доучивает голову в приложении. Fine-tune vs pretrain различается объектом (PDB identities, SAbDab, assay $y$), не маркетингом. Детали сплитов — в подразделах papers.
[PAPER]Параметры $\theta$ denoiser. Frozen: HuDiff AbNatiV при fine-tune (scores, Gumbel backprop через one-hot). PG — finetune всего RF. Affinity labels в EvoDiff-D3PM / HuAb diffusion нет. Negative binders нет (кроме искусственного шума). HuDiff Gumbel AbNatiV; Alamdari no assay loss
[PAPER]EvoDiff-D3PM: $L_{vb}$ only ($\lambda=0$). OADM CE — другой подтип/страница. Adam 1e-4, warmup 16k Seq. λ=0; Adam 1e-4 16k warmup
[PAPER]PG: CE sequence + FAPE family + KL $x_{t-1}$. Self-cond. Recycle 1–3. Не ELISA. Training CE FAPE KL self-cond
NRHuAb: discrete diffusion CE (D3PM/DiffusionBERT). Точная $L$ формула с номером Austin в paper не выписана — NR besides absorbing description.
[PAPER]HuDiff pretrain ARDM $F\cdot L_t$ + CDR assistant; finetune max VH/VL AbNatiV. Humanness scores ≠ affinity labels. Eqs. 7–8
[PAPER]Pretrain корпуса: UniRef50 42M; PDB+RF data PG; OAS unpaired 6M HuAb; OAS paired 1.74M HuDiff. Не один split. each Methods datasets
[PAPER]Fine-tune: HuDiff mouse/VHH; PG DSSP later iterations; EvoDiff scaffolding без finetune (same weights). HuAb finetune на ELISA нет. Alamdari same models unconditional/conditional
[PAPER]Teacher forcing: HuDiff ARDM on remaining masks. PG predicts $x_0$ not teacher-forced tokens. D3PM $x_0$-parameterization Austin (4). Austin Eq. 4 x0 parameterization
NRCODE optimizers line-by-line — NR.
8. Прямой проход и information flow
Общее для класса
Прямой проход класса: токены (± mask/шум) → сеть → новые токены / logits. Геометрия, pack, AF, docking — чужие блоки. Чужие блоки (pack, AlphaFold, docking, ELISA) нельзя прятать внутрь «одной сети». Схема ниже, если есть, — оригинал по прочитанным источникам, не копипаст figure. Затем — где у tools generator, а где evaluator.
[PAPER]EvoDiff-D3PM: $x_T$ uniform AA → ByteNet($x_t,t$) → sample $x_{t-1}$ ×500 → sequence. OmegaFold / ESM-IF / DR-BERT — predictor/evaluator. Не прятать внутрь CNN. Alamdari sampling Equation 5; Fig. 2A evaluators
[PAPER]PG: Gaussian $x_T$ + black-hole $y$ → RF predicts $x_0,y$ → noise to $x_{t-1}$ + self-cond → AF2 filter evaluator → expression experiment. MPNN не обязателен post-hoc (в отличие от RFdiffusion pipeline). Fig. 1b; AF2 filters Methods
[PAPER]HuAb: CDRs + masked V → 512 Transformer steps → ESM-1b/1v LL rank evaluator → ELISA/BLI experiment. Chai/pLDDT — predictor. Fig. 1; Variants ranking
[PAPER]HuDiff: CDRs + # FR → Dual CNN + Roformer → unmask order $\sigma$ $F$ steps → AbNatiV/OASis evaluator → BLI experiment. inp зажимает FR2 Nb. Fig. 1a–b; Nb inp
[INTERPRETATION]Sequence появляется сразу; geometry — только PG RF decode или внешний AF. Score (ppl, i_pTM-like) — evaluator.
[PAPER]EvoDiff-OADM forward — infill-страница, не этот mermaid-канон D3PM. OADM T=L
[PAPER]Не прятать ProteinMPNN scPerplexity HuAb внутрь Transformer. HuAb scPerplexity ProteinMPNN
NRCODE graphs — NR.
flowchart TD
NOISE["x_T: uniform AA or MASK/hash FR or Gaussian Lx20"] --> DEN["Denoiser θ"]
DEN --> D3["EvoDiff-D3PM: Cat Q T=500 — generator"]
DEN --> PG["PG: RF predict x0,y then renoize — generator"]
DEN --> HAB["HuAb: Transformer unmask FR T=512 — generator"]
DEN --> HD["HuDiff: ARDM unmask FR T=F — generator"]
D3 --> SEQ["Sequence x0"]
PG --> SEQ
HAB --> SEQ
HD --> SEQ
PG --> YSTR["RF structure y — entangled decode"]
SEQ --> LL["PPL / ESM LL / AbNatiV — evaluator"]
SEQ --> AF["AF2 / OmegaFold / Chai — predictor"]
YSTR --> AF
AF --> EXP["ELISA / BLI / CD / microscopy — experiment"]
subgraph gen ["Generator"]
DEN
D3
PG
HAB
HD
end
subgraph ev ["Evaluator / predictor"]
LL
AF
end
subgraph ex ["Experiment"]
EXP
end
9. Training procedure
Общее для класса
У класса нет единого корпуса. Типичные данные: sequence corpora (UniRef, OAS, antibody subsets) — не «все PDB» автоматически. Split и leakage — свойства датасета реализации. Не выводить split из README. Не смешивать in silico designability с prospective wet-lab. Ниже каждый paper описывает свой корпус; нет цифры = NR.
[INTERPRETATION]Единого split класса нет. Не выводить EvoDiff split из README. Не смешивать UniRef50 с OAS paired.
[PAPER]EvoDiff-Seq: 42M UniRef50. 38M: 8×V100 ~2 weeks ~700k steps; 640M: 32×V100 23 days без сходимости (OADM и D3PM-Uniform). MSA 372 296 train / 10 000 val. $t\sim U\{1,\ldots,T-1\}$ D3PM. Test ppl: sample t, corrupt, one forward; числа S1 NR. Alamdari Methods training; 42M; 23 days
[PAPER]Симуляция vs wet-lab EvoDiff: pLDDT/scPPL — in silico. Prospective OADM (не D3PM): IDR Cox15; Ca2+; MDM2 BLI — preprint. Не приписывать D3PM. EvoDiff-Seq = OADM for downstream
[PAPER]PG: PDB RF set; t uniform [0,T]; 40/30/30 tasks. Unconditional 70–80 aa, 25 steps, filter AF2 pLDDT>90 RMSD<2 Å — симуляция отбора, затем expression. Training T — NR. Unconditional protein generation filters
NRHuAb: 80? split HTML не даёт train/val ratio — NR besides 22 mAb test. 22 in silico vs 3 ELISA clones — не смешивать.
[PAPER]HuDiff: 19:1. Pretrain human paired; finetune mouse ~20k. Nb: VH pretrain then VHH finetune. In silico HuAb348/Humab25 vs HEK BLI 2B04 — разные oracles. 19:1 splits; Fig. 3 BLI 2B04
NRLeakage HuAb 22 mAbs vs OAS — NR. HuDiff experimental mAb vs OAS — NR.
[PAPER]Self-conditioning: PG да. EvoDiff D3PM — NR. Teacher forcing HuDiff ARDM да. Lisanza self-conditioning
[PAPER]Batch: HuDiff 256; HuAb 64; EvoDiff dynamic. CODE NR. HuDiff batch 256; HuAb 64
10. Inference and generation
Общее для класса
Общий inference класса: «T denoising steps from noise or from partially noised motif». Старт — маска, полностью случайная sequence или prefix. Pack / relax / AF / likelihood rerank помечаются как evaluator, не generator. Чего в классе нет (beam, recycle, assay-in-the-loop), пока tool явно не добавляет, — тоже общее свойство. Число шагов $T$, temperature, $k$ — tool-specific, если не оговорено.
[PAPER]Старт D3PM: uniform AA, length from train ≤2048. PG: Gaussian $L\times 20$ + black-hole. HuAb: aligned CDRs + 149 MASK. HuDiff: CDRs, FR=#, $T=F$. each Methods sampling start
[PAPER]Алгоритм: D3PM ancestral Cat $T=500$ (не top-k канон). PG $T_{\mathrm{inf}}$ 10–50 (25 common); GMM optional; clamp logits. HuAb 512 steps, T=0.7/0.65. HuDiff T iterative unmask FR; Nb inp flag. PG as few as 10 steps Fig. 1c; HuAb 512
[PAPER]Post-hoc evaluator: EvoDiff OmegaFold; PG AF2 pLDDT/RMSD/SAP; HuAb ESM LL + Chai; HuDiff OASis/T20/AbNatiV. Pack/relax не канон D3PM. PG FastRelax — NR в Methods как обязательный. filter lists Methods
[PAPER]Чего нет: beam как канон; AF recycle в EvoDiff; ELISA-in-the-loop; CFG ELISA. PG recycle 1–3 — train RF, не assay. Lisanza recycle training
[PAPER]HuAb ESM rerank — не diffusion. Не называть LL «affinity head» (авторы цитируют корреляции в литературе, не свою SPR loss). log-likelihood scores ranking paragraph
[PAPER]Argmax vs sample: HuAb temperature; D3PM stochastic reverse. PG GMM vs N(0,I). PG GMM2 GMM3
[PAPER]Partial noising PG $\lambda\in(0,1]$ sets start $t=\mathrm{round}(T\lambda)$ — local redesign, не full $x_T$. Partial noising λ
NRCLI / service internals HuAb — NR.
11. Conditioning
Общее для класса
Что класс умеет зажимать по постановке: «Motif clamping, classifier-free guidance, MSA». mask / framework / motif tokens — не hotspot Cα, пока 3D не подают. Contig, mask, motif, hotspot и library — разные объекты. Ниже papers перечисляют свой conditioner без переноса с соседа.
[PAPER]Зажимается: EvoDiff motif AA identities (OADM clamp; D3PM guidance — future, не default). PG: sequence/structure motif, DSSP, hotspots, contig lengths, compositional/charge/hydropathy potentials, multistate DSSP mix 0.25. Hu*: CDRs visible; HuDiff Nb inp FR2. Lisanza mixing coefficient 0.25; HuDiff inp
[INTERPRETATION]Чего нет: ELISA tensor; measured_var EVOLVEpro; epitope graph PALM; CATH как default EvoDiff.
[PAPER]Classifier-free guidance: EvoDiff D3PM discussed as future, не реализованный default. PG sequence-based guidance = potentials on $x_0$, не CFG class labels ELISA. Alamdari Discussion guidance; Lisanza amino acid potential
[PAPER]Contig RFdiffusion-style: PG да (Methods spans / SI). EvoDiff/HuAb — не contig-string RFD. Lisanza unmask spans motif
[PAPER]MSA conditioner EvoDiff-MSA. HuAb unpaired chains. HuDiff paired Ab. Alamdari MSA; HuDiff paired OAS
[PAPER]Library $\mathcal{X}$ не вход D3PM (unconditional length dist). GB1 PG iterative — four sites V39 D40 G41 V54, 96/round ×3 — tool-specific campaign, не humanization. Iterative guidance GB1 96 designs three rounds
[INTERPRETATION]Function keywords ESM3 — не этот класс.
[PAPER]HuAb type embedding 0=CDR 1=V — conditioner, не antigen. HuAb type layer 0/1
12. Вычислительная сложность
Общее для класса
Драйверы стоимости класса: «T steps; L length; guidance evaluations». Сравнение «дешевле diffusion» допустимо только если paper дал NFE/steps; иначе это INTERPRETATION или молчание. GPU hours / wall-clock без источника — NR. Цифры одной кампании не становятся сложностью всего класса.
[INTERPRETATION]Драйверы: $L$; $T$ (500 D3PM / 512 HuAb / $F$ HuDiff / $T_{\mathrm{inf}}$ PG); ByteNet vs $O(L^2)$ attn; MSA $64\times 512$; RF pair; #samples; AF2 filter NFE; assay latency.
[PAPER]PG: solutions in as few as 10 steps (Fig. 1c). «Дешевле RFdiffusion» по NFE — не утверждать: paper сравнивает motif success, wall-clock — SI Table 2 NR. Fig. 1c 10 steps; RFdiffusion better large proteins Supplementary Fig. 5c
[INTERPRETATION]EvoDiff 640M ×500 D3PM vs OADM $L$ steps — разные режимы, не «дешевле Cartesian» без NFE table.
[PAPER]HuAb: A100 mentioned; train wall-clock — NR. HuDiff batch 256, lr 1e-4 — не sampling GPU-hours. HuAb Nvidia A100; HuDiff Adam 1e-4
[PAPER]EvoDiff train 8×/32×V100 — PAPER. Не переносить на HuAb A100. Alamdari 8 vs 32 V100
NRCODE throughput — NR.
13. Преимущества
Общее для класса
Преимущества должны следовать из механизма класса (цикл с малым бюджетом, локальный граф, joint prior…), не из маркетинга. Seed-список: «Любой subset можно зафиксировать маской; Не требует AR order». Любое количественное число ниже обязано иметь PAPER/SI locator и не обобщается с одного белка на класс. Это не гарантия стабильности, аффинности или экспрессии.
[PAPER]Из постановки: любой subset можно зажать (маска/clamp) без AR order; D3PM оставляет возможность переписать токен каждый шаг (guidance). PG sequence guidance (composition, hydropathy) проще, чем в structure-space DDPM — авторский claim. Lisanza sequence space rather than structure space
[PAPER]EvoDiff: sequence-only IDRs, где structure generators typically fail (авторский claim). Wet-lab OADM, не D3PM. Не обобщать на класс D3PM. IDR inpainting; EvoDiff-Seq OADM
[PAPER]PG: motif AF2 RMSD<2, motif RMSD<1, pAE<5 (in silico); experimental soluble designs, disulfides 3–4 Cys, CD thermostable. Не antibody. Не Kd. Fig. 4c motif; Cys mass spec 3–4 disulfides
[PAPER]HuDiff: hAb1.2 $K_D$ 0.15 nM vs parent 0.12 nM BLI; 39 mutations; ELISA all five bind. Nb hNb1.1 2.52 nM vs 5.47 nM (54%). Одна 2B04 и две Nb серии preprint. Не класс, не HuAb ELISA ng/ml. HuDiff Fig. 3d 0.15 vs 0.12; 2.52 vs 5.47
[PAPER]HuAb ELISA EC50 ng/ml: BAMU-16 2.374 vs 16CM 2.610; BAMU-38 2.081 vs 38CM 2.815; BAMU-13 4.519 vs 13CM 3.093 (не лучше chimeric). Не nM Kd. Table S7 BLI NR cells. Table 4 EC50
[PAPER]Явно: sequence plausibility / humanness / pLDDT не гарантия стабильности / аффинности / экспрессии / низкой ADA. HuAb Fig. 5 ELBO vs ADA — retrospective 217 therapeutics, не designs BAMU. HuAb Fig. 5 ADA 217
[PAPER]Austin: выбор $Q$ — design decision (uniform vs absorbing vs NN). Не универсальный kernel. Austin choice of transition matrix important
[INTERPRETATION]Не сравнивать PG 68/soluble E. coli с HuDiff nM как один success column.
14. Ограничения
Общее для класса
Ограничения класса по осям: математика представления, физика/химия, bias данных, обобщение, deployment. Seed-список: «Много steps; Sequence plausibility ≠ 3D». Не дублировать преимущества с обратным знаком без новой информации. Ниже papers добавляют конкретные дыры (SI, split, gated weights).
[PAPER]Математика: D3PM труднее OADM (Alamdari); absorbing фиксирует AA после unmask (плохо для guidance); PG Gaussian на logits ≠ calibrated Cat; ARDM $T=F$ растёт с CDR-graft length. OADM easier than D3PM; OADM fixes identity
[PAPER]Представление: нет 3D у EvoDiff/Hu*; PG RF bias; HuAb AHo pad 149; HuDiff IMGT 291 ghosts -. pad tokens HuDiff
[INTERPRETATION]Физика: нет electrostatics PDE. BLOSUM ≠ mutational process в клетке.
[PAPER]Данные: UniRef/OAS/PDB biases; HuAb unpaired; HuDiff mouse finetune ~20k; PG no antibody proof. Lisanza no antibody-specific; HuDiff 19387
[PAPER]Обобщение: D3PM не выбран для EvoDiff downstream; HuDiff 3 parent series; HuAb 3 ELISA clones; PG miniprotein-scale campaigns. three parent HuDiff evidence_summary MATRIX/PAPER
[MATRIX]Deployment: EvoDiff MIT preprint; PG MIT+ckpt; HuDiff custom license NR; HuAb commercial service, source NR, GenScript patents pending.
15. Failure modes
Общее для класса
Типичные ошибки пользователя и модели для этого класса: слишком большой mask, temperature $\to 0$, NLL/AAR как affinity. Seed-список: «Слишком мало steps; Motif scaffolding без 3D constraints». Это не общие «может не сработать». Дальше — как эти режимы проявлялись в конкретных работах каталога.
[INTERPRETATION]Конкретные ошибки, не «может не сработать».
- Применить EvoDiff-D3PM API как OADM infill (mutation noise ≠ span MASK).
- Одна $Q_t$ на PG Gaussian и Austin Cat.
- Считать ESM LL / pLDDT / OASis измеренным Kd.
- Приписать Cox15/MDM2 wet-lab каналу D3PM.
- HuDiff как ProGen left-to-right без absorbing FR.
- HuAb 22 mAb in silico = 3 ELISA clones.
- Humanness / ELBO как clinical ADA для новых BAMU designs.
- PG AF2 pLDDT>90 filter как affinity.
- Мало D3PM steps ≪500 без paper calibration.
- Motif sequence clamp без 3D (EvoDiff) как RFdiffusion scaffolding.
- HuAb неполные V (trained on complete AHo 149).
- Сравнить HuDiff 0.15 nM и HuAb EC50 ng/ml как один Kd.
- DiffAb joint type channel как sequence-only tool этого id.
- UCB на страницу как train (только PG GB1 baseline).
16. Реализации в инструментах
Общее для класса
Реализации класса в каталоге определяются reverse index architecture_id, а не похожестью названия. Колонки таблицы: generic architecture vs tool-specific. Непрочитанный tool — строка с NR, без выдуманных уравнений. Foundational methods вне карточек tools можно указать явно. Неравные кампании не ставят в одну колонку «успех». Список ссылок на tools повторяется служебным блоком после нумерованных разделов.
[MATRIX]Полный reverse index. CODE SHA всех — NR. Неравные oracles не в одной колонке успеха.
[INTERPRETATION]| Tool | Generic architecture | Tool-specific implementation | Important difference |
|---|---|---|---|
| EvoDiff | discrete token diffusion | D3PM Uniform/BLOSUM T=500 λ=0 ByteNet; и OADM T=L (другой id); UniRef50 42M; CODE NR | D3PM не выбран как EvoDiff-Seq; wet-lab OADM |
| ProteinGenerator | sequence-space noising | RF; Gaussian $L\times 20$; CE+FAPE; sqrt; self-cond; CODE NR; training T NR | Не Cat $Q$; structure entangled; не antibody |
| HuDiff | absorbing FR ARDM | Dual CNN+Roformer; T=F; OAS paired; AbNatiV FT; BLI 0.15/0.12 nM preprint; CODE NR; journal NMI не sync | Не D3PM Q; также AR architecture_id |
| HuAbDiffusion | absorbing MASK FR D3PM-like | 12L Transformer d=1024 T=512; OAS unpaired 2M×3; ESM rerank; ELISA Table 4; repo NR; service YabXnization | Не HuDiff ARDM; не paired Dual CNN |
| Метод вне карточек / не этот id | Зачем указан | Не делать |
|---|---|---|
| Austin D3PM / Hoogeboom OADM-ARDM | родовые kernels | номера appendix без PDF — NR |
| EvoDiff-OADM | sibling infill id | не уравнение D3PM-страницы как default |
| DiffAb type channel | categorical CDR + frames | joint diffusion id |
| RFdiffusion | structure-space | не sequence Q |
| ProGen / ESM3 | AR / MLM | нет этого architecture_id как diffusion |
17. Где применимо и где не применимо
Общее для класса
Класс уместен для задач: general-protein-sequence-generation; humanization. Не уместен: de-novo-backbone-generation. Ссылки на workflows имеют смысл, только если стадия реально вызывает этот класс как generator/scorer, а не как соседний модуль. Чем пользоваться вместо запрещённой задачи — соседний architecture / workflow, не «тот же GNN». Ниже — разбор papers и явные запреты, затем служебные списки каталога.
[MATRIX]Применимо для sequence-first генерации и motif sequence clamp (EvoDiff, sequence-first-de-novo); humanization FR от CDR (HuDiff, HuAbDiffusion, humanization-framework); sequence-space guidance / multistate (ProteinGenerator). Задачи general-protein-sequence-generation, humanization, motif-scaffolding (sequence-level).
[INTERPRETATION]Этим нельзя заменять: de novo backbone control (frame-diffusion, RFdiffusion); antigen-conditioned Ab 3D (joint sequence–structure diffusion); few-shot ELISA loop (active-learning); IF при готовом backbone (ProteinMPNN).
[MATRIX]Не использовать D3PM likelihood как Kd. Не использовать HuAb ELBO как ADA новых дизайнов. Нужен binding assay.
[INTERPRETATION]EvoDiff IDR evidence не делает tool antibody therapeutic generator. PG не имеет antibody wet-lab в primary. HuDiff nM не переносится на HuAb EC50.
18. Методологические источники
Общее для класса
Этот раздел — какие работы определяют класс и какие карточки papers каталога к нему привязаны, что прочитано vs pointer-only. Идентификаторы каталога: paper-evodiff; paper-hudiff. Это не библиография «всего по теме». Таблица происхождения источников, paywall и статус сверки вынесены в конец страницы, чтобы не заслонять определение класса.
[PAPER]Foundational: Austin D3PM; Hoogeboom ARDM/OADM (HuDiff ref. 64; Alamdari 24). Catalog: paper-evodiff, paper-protein-generator, paper-hudiff, paper-huabdiffusion.
[INTERPRETATION]Прочитано: Alamdari v2 Methods D3PM; Austin HTML Eqs.; Lisanza Methods; HuAb BIB Methods+Table 4; HuDiff bioRxiv Methods Eqs. 3–8. Pointer-only: EvoDiff S-tables; PG SI Table 2 / Alg S1; HuDiff NMI journal; all commits; HuAb S7 BLI.
[PAPER]Не библиография всего discrete diffusion: Sohl-Dickstein, Hoogeboom multinomial, DiffusionBERT — указаны papers, не карточки tools. Austin related work; HuAb DiffusionBert ref
Инструменты, использующие подход
EvoDiff, HuAbDiffusion, HuDiff, ProteinGeneratorГде применимо
Генерация белковых sequences, HumanizationГде не стоит использовать
De novo генерация backbonePapers каталога
Protein generation with evolutionary diffusion: sequence is all you need, Humanization of antibodies and nanobodies by diffusion modelsПодтипы класса
- D3PM
- OA-DM
- Autoregressive diffusion
Статус сверки источников
Недоступные или неполные источники
| Источник | Почему недоступен | Что использовано вместо |
|---|---|---|
| Alamdari EvoDiff Supplementary Tables S1–S6 numeric ppl/FPD cells | HTML «View this table» без чисел | Качественно: OADM ppl лучше D3PM Uniform/BLOSUM; T=500 λ=0 — Methods prose |
| microsoft/evodiff commit SHA + sampler functions | extra_constraints: code unaudited this pass | D3PM Uniform/BLOSUM, sinusoidal t, x_T uniform AA — bioRxiv Methods |
| Lisanza Nat. Biotechnol. SI Algorithms S1–S2 and Supplementary Table 2 (inference wall-clock, training T) | SI PDF не извлечён построчно | Eq. (1) Gaussian $L\times 20$, sqrt schedule, CE+FAPE, self-cond, inference 10–50 steps — journal Methods; training $T$ numeric — NR (GitHub README 1000 не CODE) |
| RosettaCommons/protein_generator commit SHA | репозиторий не line-audit | Architecture RF + sequence diffusion — PAPER; contig CLI — NR |
| HuDiff Nature Machine Intelligence 10.1038/s42256-025-01120-9 journal HTML/SI | В этом проходе канон — bioRxiv HTML; journal pagination не сличена | ARDM Eqs. 3–8, IMGT 291, BLI 0.15 vs 0.12 nM — preprint; Science-adjacent journal-only numbers NR |
| TencentAI4S/HuDiff commit SHA | CODE unaudited | CNN kernel 7, Adam 1e-4, batch 256 — bioRxiv Methods; CLI flags — NR |
| HuAbDiffusion official_repository + Table S7 BLI numeric cells | repo NR (MATRIX); S-table HTML не отдал Kd | ELISA Table 4 EC50 ng/ml clone 13/16/38; architecture 12L Transformer T=512 — journal Methods |
| Austin D3PM Appendix A closed-form $\bar Q_t$ proofs | читался HTML §§2–5, не все appendix derivations | Uniform $Q_t=(1-\beta_t)I+\beta_t\mathbf{1}\mathbf{1}^\top/K$; absorbing; hybrid $L_\lambda$ Eq. 5 — основной HTML |
Происхождение источников
| Метка | Источник | Ссылка | Примечание |
|---|---|---|---|
| [PAPER] | Alamdari S. et al. Protein generation with evolutionary diffusion: sequence is all you need. bioRxiv 10.1101/2023.09.11.556673 | https://www.biorxiv.org/content/10.1101/2023.09.11.556673v2.full | Preprint: D3PM T=500 λ=0 Uniform/BLOSUM; OADM T=L — sibling infill; UniRef50 42M |
| [PAPER] | Austin J. et al. Structured Denoising Diffusion Models in Discrete State-Spaces. NeurIPS 2021 / arXiv:2107.03006 | https://arxiv.org/abs/2107.03006 | Foundational D3PM: Cat(x_t; x_{t-1} Q_t); uniform/absorbing/NN kernels; L_λ=L_vb+λ CE |
| [PAPER] | Lisanza S.L. et al. Multistate and functional protein design using RoseTTAFold sequence space diffusion. Nat. Biotechnol. (2024/2025) | https://doi.org/10.1038/s41587-024-02395-w | Journal: Gaussian on scaled one-hot L×20, not amino-acid D3PM Q; CE+FAPE; RF backbone |
| [PAPER] | Liu D., Hao X., Fan L. HuAbDiffusion: a discrete language diffusion model used for antibody humanization. Brief. Bioinform. 26, bbaf658 (2025) | https://doi.org/10.1093/bib/bbaf658 | Journal: absorbing MASK on FR, CDR clamp, T=512, Transformer; YabXnization service; no public repo |
| [PAPER] | Ma J. et al. An adaptive autoregressive diffusion approach to design active humanized antibody and nanobody. bioRxiv 10.1101/2024.10.22.619416 | https://doi.org/10.1101/2024.10.22.619416 | Preprint: ARDM absorbing FR, T=F framework length; Dual CNN+Roformer; AbNatiV fine-tune; not D3PM Q_t |
| [MATRIX] | catalog reverse index architecture_id sequence-diffusion | NR | evodiff, hudiff, huabdiffusion, protein-generator |
Методологические источники
- [1] Alamdari S. et al. Protein generation with evolutionary diffusion: sequence is all you need. bioRxiv 10.1101/2023.09.11.556673. · DOI · источник
- [2] Austin J. et al. Structured Denoising Diffusion Models in Discrete State-Spaces. arXiv:2107.03006 (NeurIPS 2021). · источник
- [3] Lisanza S.L. et al. Multistate and functional protein design using RoseTTAFold sequence space diffusion. Nat. Biotechnol. doi:10.1038/s41587-024-02395-w. · DOI · источник
- [4] Liu D., Hao X., Fan L. HuAbDiffusion: a discrete language diffusion model used for antibody humanization. Brief. Bioinform. 26, bbaf658 (2025). · DOI · источник
- [5] Ma J. et al. An adaptive autoregressive diffusion approach to design active humanized antibody and nanobody. bioRxiv 10.1101/2024.10.22.619416. (Nature Mach. Intell. journal не page-sync в этом проходе.) · DOI · источник
- [6] Hoogeboom et al. Autoregressive Diffusion Models — цитируется HuDiff (64) и Alamdari (24); PDF уравнений не close-read beyond HuDiff Methods transcription.
- [7] microsoft/evodiff, RosettaCommons/protein_generator, TencentAI4S/HuDiff — pointer; commits не аудированы.
Нерешённые научные вопросы
- EvoDiff Table S1–S6 numeric ppl/Hamming/FPD
- microsoft/evodiff commit and D3PM sampler symbol
- ProteinGenerator training T (Nature Methods не число; GitHub README 1000 не CODE)
- Lisanza SI Table 2 wall-clock; Algorithms S1–S2 line-level
- RosettaCommons/protein_generator commit
- HuDiff Nature Mach. Intell. 10.1038/s42256-025-01120-9 vs bioRxiv pagination
- TencentAI4S/HuDiff commit; Roformer hidden width
- HuAbDiffusion Table S7 BLI Kd; AdamW learning rate (HTML обрыв); train/val split ratio
- HuAbDiffusion source repo (MATRIX NR)
- Austin Appendix closed-form Q-bar derivations not transcribed