Sequence diffusion

Диффузия в пространстве sequences. Established English term: Sequence diffusion.

Что это за класс

Определение класса — общее для всех papers и tools с этим architecture_id. Это не карточка одной нейросети. После каждого нумерованного заголовка сначала идёт блок «Общее для класса», затем разбор конкретных статей, как раньше.

Диффузия sequences — генератор дискретных аминокислотных токенов. Вперёд: identity постепенно заменяется случайными буквами алфавита (D3PM, absorbing / mask, Gaussian-on-logits — подтипы разные). Назад: сеть восстанавливает чистую sequence. Не нужно писать белок слева направо.

Удобно зажать мотив или каркас: эти позиции не шумят или клемпятся на inference. Отсюда infilling и humanization-like redesign без полной AR-цепочки.

Что на выходе. Sequence (иногда с likelihood). 3D не следует из токенов: фолд проверяют внешним predictor. Это не Cartesian DDPM и не frame diffusion.

Чего класс не делает. Не гарантирует сворачиваемость и не измеряет affinity. Мало шагов $T$ даёт недоденoise. Слишком большой mask превращает модель почти в безусловную генерацию.

Каталог: EvoDiff (D3PM/OADM), HuDiff / HuAbDiffusion и родственные discrete diffusion. ESM3 — скорее masked multimodal LM, его канон на masked infilling / joint generation, не «ещё один D3PM».

В разделах ниже — общая дискретная постановка, затем различия papers.

Sequence diffusion — generator amino-acid state: forward noising токенов (categorical $Q_t$, absorbing [MASK], или Gaussian на scaled one-hot $L\times 20$), reverse $T$ шагов. Это не Cartesian coordinate DDPM, не inverse folding и не affinity predictor. Одна матрица $Q_t$ не описывает EvoDiff-D3PM, ProteinGenerator и HuDiff.

1. Область определения

Общее для класса

Этот пункт фиксирует роль класса в пайплайне и границу с соседями. Класс работает с дискретной sequence (токены аминокислот). 3D, если нужна, приходит снаружи. Краткая seed-формула: «Amino-acid tokens постепенно зашумляются до random categories, а модель учится восстанавливать sequence. Удобно для masked local redesign и unconditional generation». Что метод выдаёт или оценивает: «Discrete sequence state». Вход: «Noisy amino-acid tokens; optional MSA/motif masks». Задачи каталога, которые класс закрывает: general-protein-sequence-generation; humanization. Явно не для: de-novo-backbone-generation. Дальше по разделу — какие tools имеют этот architecture_id и какие постановки нельзя смешивать.

[INTERPRETATION]Роль — generator (density model на дискретной цепи токенов). Не sequential assay loop и не geometric SE(3) inductive bias как определение класса. ProteinGenerator дополнительно декодирует структуру через RoseTTAFold — пересечение с joint sequence–structure generation, не лицензия копировать Cartesian DDPM.

[PAPER]Generated state — amino-acid tokens $x_0$ (и, у PG, сопряжённая структура $y$). Intermediate $x_t$ — noisy tokens / scaled logits / [MASK]/#, не атомы. Scored embeddings без reverse chain — не этот класс. Austin discrete state; Lisanza L×20; Alamdari tokens

[MATRIX]Задачи: general protein sequence generation и motif scaffolding (EvoDiff, sequence-first de novo); humanization / framework redesign (HuDiff, HuAbDiffusion, humanization-framework); joint/multistate (ProteinGenerator, joint-multimodal).

[PAPER]Это не masked-token infilling как канон: infill-страница — OADM / ILM / generative MLM. EvoDiff-D3PM ($Q$, $T=500$, $x_T$ uniform AA) живёт здесь. OADM у того же tool имеет оба id; уравнения OADM подробно там. Alamdari: D3PM only for discrete corruption; OADM for masking

[PAPER]Это не autoregressive generation как left-to-right без absorbing FR: ProGen пишет префикс. HuDiff цитирует ARDM (Hoogeboom) и также стоит в AR-id каталога — не гадать, что это GPT; train target — order-agnostic unmask FR, не next-token L→R. HuDiff Methods vs traditional AR chain rule; extra_constraints

[INTERPRETATION]Это не joint sequence–structure diffusion: DiffAb categorical CDR — совместный type+Cα+SO(3) state. Не переносить DiffAb $Q^{\mathrm{type}}$ как default этого класса. Это не coordinate-diffusion / frame-diffusion: нет xyz/frames как диффузионный state (PG диффундирует sequence tensor).

[PAPER]Это не protein language models целиком: PLM может быть AR/MLM/frozen $E$. Sequence diffusion задаёт марковскую forward/reverse цепь по $t$. ESM LL rerank у HuAbDiffusion — evaluator, не generator. HuAbDiffusion Variants ranking ESM-1b/1v

[MATRIX]Catalog tools: EvoDiff, HuDiff, HuAbDiffusion, ProteinGenerator. Путают с RFdiffusion (structure-space), ProGen, ESM3, DiffAb (другой architecture_id).

2. Интуитивный принцип

Общее для класса

Общий механизм Sequence diffusion: что меняется за один шаг inference и за счёт какого inductive bias метод может работать. «Amino-acid tokens постепенно зашумляются до random categories, а модель учится восстанавливать sequence. Удобно для masked local redesign и unconditional generation». Главный эмпирический рычаг класса — температура / mask rate / число шагов unmask или denoising; это не «магия одной статьи». Для Sequence diffusion внутренние числа модели (likelihood, score, acquisition, pLDDT, DockQ, predicted $\Delta\Delta G$) не являются экспериментальным affinity / $K_d$ / ELISA / BLI, пока это явно не измерено вне сети. Абзацы ниже — как принцип формулируют конкретные papers, не определение всего класса.

[INTERPRETATION]При inference с $x_T$ (uniform AA, all-MASK, или Gaussian $L\times 20$) сеть итеративно восстанавливает $x_0$. Меняются токены (и у PG — предсказанный fold). Не физическая траектория фолдинга.

[PAPER]Четыре несовместимых forward. (i) EvoDiff-D3PM: мутации по $Q$ до uniform. (ii) Absorbing mask: FR → [MASK]/#, CDR зажаты (HuAb, HuDiff, EvoDiff-OADM). (iii) ProteinGenerator: Gaussian на scaled one-hot, не Cat $Q$. (iv) DiffAb type channel — joint-страница. Alamdari Fig. 1B; Lisanza Eq. 1; HuAb Methods MASK; HuDiff absorbing FR

[PAPER]Рычаг EvoDiff-D3PM: выбор Uniform vs BLOSUM $Q$, $T=500$. PAPER. Авторы для downstream взяли OADM-640M, не D3PM (ppl и foldability хуже). Guidance как future — D3PM, потому что токен можно править каждый шаг. Alamdari selected OADM as EvoDiff-Seq; Discussion guidance fits D3PM

[PAPER]Рычаг PG: sqrt noise, self-conditioning, logit clamp $[-3,3]$, guidance potentials (AA composition, charge, hydropathy, DSSP, multistate logit mix), partial noise $\lambda$. PAPER. Lisanza Methods Inference clamp; partial noising λ

[PAPER]Рычаг HuDiff: $T=F$ (длина FR), permutation $\sigma$ FR sites, AbNatiV fine-tune (Gumbel), Nb de vs inp (сохранить гидрофильный FR2). PAPER. t determined by framework length; Nb de/inp

[PAPER]Рычаг HuAbDiffusion: $T=512$, temperature 0.7 VH / 0.65 VL, затем ESM log-likelihood rerank. PAPER. Rerank ≠ generator. HuAb sampling temperatures 0.7 and 0.65; Variants ranking

[PAPER]Предостережение. PPL, OmegaFold/AF pLDDT, motifRMSD, scPerplexity, TM, ESM LL, AbNatiV/OASis, PG design pLDDT, Rosetta не $K_d$ / ELISA / BLI / ADA. Humanness ≠ immunogenicity. PG ESM pseudo-perplexity «indicative of experimental success» в цитируемой литературе — не Kd этого класса. Lisanza ESM ppl citation; HuAb pLDDT/scPPL tables in silico

[PAPER]EvoDiff Cox15 8/8 и MDM2 BLI — кампании OADM EvoDiff-Seq, не D3PM (не переносить на эту страницу как успех D3PM). HuDiff 0.15 nM vs parent 0.12 nM — experiment одной murine mAb preprint/journal, не класс. Alamdari EvoDiff-Seq = OADM; HuDiff Fig. 3d BLI

3. Формальная математическая постановка

Общее для класса

Сначала родовая математика класса (что оптимизируют / что семплируют), общая для реализаций с этим id. Seed-запись: «Discrete DDPM/D3PM: $q(x_t\mid x_{t-1})$ — категориальный noise. Denoiser предсказывает $p(x_0\mid x_t)$ или posterior $p(x_{t-1}\mid x_t)$». Подтипы имеют отдельные уравнения: нельзя переносить diffusion score, UCB, AR NLL, FAPE или MLM $\Delta\ell$ на эту страницу, если это не её train target. Формулы с пометкой tool-specific относятся к одному инструменту. Ниже — разбор papers по подтипам.

[INTERPRETATION]Сначала родовой D3PM Austin. Затем подтипы с разными $Q$/ядрами. Не одна $Q_t$ на EvoDiff, PG и HuDiff. Не подставлять seed one-liner как уравнение инструмента.

[INTERPRETATION]Формулы, которые не являются default этого класса: Ho Cartesian VP-DDPM на xyz; Lipman CFM; UCB (PG сравнивает guidance с qUCB baseline — не train PG); FAPE как уравнение EvoDiff/HuDiff; Meier $\Delta\ell$; AR NLL ProGen; DiffAb SO(3)/Cα score; IgLM ILM.

[PAPER]FAPE есть в train ProteinGenerator (tool-specific) вместе с sequence CE — не родовой loss класса и не EvoDiff. Не сравнивать EvoDiff ppl, PG AF2 filters и HuDiff BLI как один benchmark. Lisanza CE on sequence and FAPE on structure

[PAPER]Austin: BERT может быть one-step D3PM; AR — вырожденный discrete diffusion. Это связь классов, не лицензия ставить BERT 15% как EvoDiff-D3PM. Austin §4 BERT is a one-step diffusion model

$$q(x_t\mid x_{t-1})=\mathrm{Cat}(x_t;\, p=x_{t-1}Q_t),\qquad \bar Q_t=Q_1\cdots Q_t$$
[PAPER] generic. Родовой D3PM (Austin). $Q_t$ — tool-specific. Generic: не checkpoint EvoDiff/HuAb. PG не использует эту Cat-$Q$ форму (Gaussian на $L\times 20$).
СимволТипОпределение
$x_t$one-hot tokenдискретное состояние позиции (или независимо по L)
$Q_t$K×K stochastic matrixforward kernel на шаге t
$K$intразмер алфавита

Оптимизируется reverse $p_\theta(x_{t-1}\mid x_t)$ / $\tilde p_\theta(x_0\mid x_t)$. Семплируется $x_0$ за $T$ шагов. Affinity в $Q$ не входит.

$$Q_t^{\mathrm{unif}}=(1-\beta_t)I+\beta_t\mathbf{1}\mathbf{1}^\top/K$$
[PAPER] generic. Родовой uniform kernel (Hoogeboom/Austin). Stationary — uniform. Generic подтип Cat-diffusion.
СимволТипОпределение
$\beta_t$noise level$\in[0,1]$; schedule tool-specific

Forward перемешивает категории равномерно. Не BLOSUM и не Gaussian logits.

[INTERPRETATION]
ПостановкаTrain targetSampler/декодерЧто в каталоге
Sequence diffusion (эта страница)D3PM $L_{vb}$/CE / Gaussian+FAPE / ARDM FRT discrete or Gaussian stepsEvoDiff-D3PM, PG, HuAb, HuDiff
Masked-token infillingunmask $s_M\mid s_{\setminus M}$OADM/ILM/MLMEvoDiff-OADM, IgLM, ESM3
Autoregressive generationnext-token CE L→Rancestral prefixProGen; HuDiff также в этом id
Coordinate diffusionscore/noise на xyzODE/SDE coordsRFdiffusion, Chroma — не этот id
Joint seq–str diffusiontype+frames (+DiffAb $Q^{\mathrm{type}}$)joint reverseDiffAb; не HuAb FR-only

Подтип A — EvoDiff-D3PM Uniform / BLOSUM (не OADM)

[PAPER]Hybrid $L_{vb}+\lambda L_{ce}$, $\lambda=0$, $T=500$. Uniform: doubly stochastic $Q_t$, schedule $(T-t+1)^{-1}$. BLOSUM62 → softmax → Sinkhorn; $\beta$-schedule, половина мутаций к $t=250$. Синусоидальный $t$ (не implicit mask count). $x_T$ — uniform AA. Tool-specific EvoDiff. CODE NR. Alamdari Methods D3PM λ=0 T=500; Uniform and BLOSUM subsections

$$\mathcal{L}=\mathcal{L}_{vb}+\lambda\mathcal{L}_{ce},\quad \lambda=0,\ T=500$$
[PAPER] EvoDiff-D3PM [PAPER]; tool-specific. EvoDiff-D3PM train (Alamdari). Не OADM $T=L$. Не Austin $\lambda$ по умолчанию для изображений. $L_{vb}$ три члена как в D3PM; сеть предсказывает $\tilde p_\theta(x_0\mid x_t)$.
СимволТипОпределение
$\lambda$weightCE auxiliary; выбран 0 после ablation
$T$int500 mutation steps

Train: NLL bound на undo-mutations. Sample: 500 шагов от uniform AA. PPL ≠ fold ≠ Kd.

Подтип B — ProteinGenerator sequence-space Gaussian (не Cat $Q$)

[PAPER]Scaled one-hot: true $=1$, else $-1$ ($\times 2-1$). Ho forward в непрерывном $L\times 20$. Sqrt schedule. Loss: CE($x_0$)+FAPE/bond/distogram/lddt на $y$ + KL на $x_{t-1}$. Self-cond. Inference: $x_{t-1}\sim q(x_{t-1}\mid x_0)$ лучше чем $q(\cdot\mid x_0,x_t)$. Tool-specific ProteinGenerator. Lisanza Methods Sequence representation Eq. 1; Training; Inference

$$q(x_t\mid x_0)=\mathcal{N}\bigl(x_t;\sqrt{\bar\alpha_t}x_0,(1-\bar\alpha_t)I\bigr),\quad x_0\in\mathbb{R}^{L\times 20}$$
[PAPER] ProteinGenerator [PAPER]; tool-specific. Lisanza Eq. (1). Не Austin Cat. Не xyz coordinate diffusion (state — sequence logits). Training $T$ numeric — NR (SI/README).
СимволТипОпределение
$\bar\alpha_t$schedulesqrt noise schedule (ref. 10 in paper)
$L$lengthresidues

Train: предсказать чистую sequence+structure. Sample: $T_{\mathrm{inf}}$ шагов от Gaussian; часто 25. AF2 filter — evaluator.

Подтип C — HuAbDiffusion absorbing MASK на FR (не mutation $Q$)

[PAPER]D3PM+DiffusionBERT-style: V-region → [MASK], CDR prefix всегда видим. $T=512$. Vocab 26. Не BLOSUM. Не PG Gaussian. Tool-specific HuAbDiffusion. Repo NR. Methods discrete Cat Q; CDRs-conditional; 512 steps

$$x_T^{\mathrm{FR}}=\texttt{[MASK]}^{L_{\mathrm{V}}},\quad x_t^{\mathrm{CDR}}=x_0^{\mathrm{CDR}}\ \forall t$$
[PAPER] HuAbDiffusion [PAPER]; tool-specific. Absorbing FR, clamped CDR (HuAb Methods). $L_V=149$ AHo. Не EvoDiff-D3PM uniform AA. Не HuDiff ARDM permutation loss с номером (3).
СимволТипОпределение
$L_{\mathrm{V}}$int149 aligned V (AHo)

Train: unmask FR given CDRs. Sample: 512 steps, T=0.7/0.65. ESM LL — post-hoc evaluator.

Подтип D — HuDiff ARDM absorbing FR (не D3PM $Q_t$)

[PAPER]Corrupts FR напрямую (как MLM), не строит $Q_t$. $T=F$ длина FR; $\sigma\sim U(S_F)$. Pretrain: $L^{Ab}=F\cdot L_t + L_{\mathrm{assistant}}$. Fine-tune: max AbNatiV VH/VL via Gumbel-Softmax. Tool-specific HuDiff. Также architecture_id autoregressive-generation — не ProGen. HuDiff Methods Objective function Eqs. 3–8; D3PM constructs Q whereas HuDiff corrupts directly

$$\log p(x)\ge \mathbb{E}_{t\sim U(1,\ldots,F)}[F\cdot L_t],\quad L_t=\frac{1}{F-t+1}\sum_{k\in\sigma(\ge t)}\log p(x_k\mid x_{\sigma(
[PAPER] HuDiff [PAPER]; tool-specific. HuDiff pretrain (bioRxiv Eqs. 5–6; Hoogeboom ARDM). $F$=FR length, не 500. Не Austin uniform $Q$.
СимволТипОпределение
$F$intчисло FR позиций (T при inference)
$\sigma$permutationслучайный порядок unmask FR

Train: order-agnostic FR reconstruction + CDR assistant. Sample: T=F unmask steps from absorbing FR. AbNatiV ≠ Kd.

4. Представление данных

Общее для класса

Класс читает «Noisy amino-acid tokens; optional MSA/motif masks». Нужно отличать тензор сети (токены AA, mask / time index, опционально conditioner (framework, motif)) от внешнего файла (fasta, IMGT numbering, CDR mask). Размерности и аугментации без paper/code остаются NR. Дальше — как это кодируют конкретные реализации.

[PAPER]Узлы: позиции токенов. Рёбра: ByteNet dilated conv (EvoDiff-Seq), MSA Transformer, RF pair tracks (PG), Transformer/Roformer (HuAb/HuDiff). Time: sinusoidal 1D (EvoDiff-D3PM, HuAb embed time in each block); OADM implicit; PG timestep in sequence template; HuDiff $t$ = сколько FR ещё masked. Alamdari sinusoidal vs implicit; HuAb time embedding; Lisanza timestep feature

[PAPER]EvoDiff-Seq: UniRef50, sample length ≤2048. D3PM $K$ = standard AA (+ J,O,U uniform rows; MSA <GAP>). Hidden: 38M $d=1020$ 16 layers / 640M $d=1280$ 56 layers. CODE NR. Alamdari ByteNet 38M/640M; BLOSUM extra rows

[PAPER]PG: $L\times 20$ real tensor. DSSP concat 25% train, mask 0–90%. Tasks mix: 40% diffusion, 30% seq2str, 30% fixed-backbone design. Motif: 1–4 spans 4–8 aa или random active-site unmask. Contig — внешний файл/строка, не выученный tensor (CLI NR). Lisanza Training 40/30/30; motif spans

[PAPER]HuAb: OAS 2M H + 2M κ + 2M λ unpaired; AHo 149; North CDR; CDR concat length 64 (H) / 67 (L); vocab 26; input CDR prefix + [SEP] + V. Transformer 12L, 16 heads, $d=1024$. Batch 64 AdamW; lr HTML обрыв — NR. HuAb Materials dataset; 12 layers 16 heads 1024; batch 64

[PAPER]HuDiff-Ab: IMGT VH 152 + VL 139 = 291; vocab 23 (-,#,X+20 AA). CNN kernel 7. Split pretrain 1,738,321 paired 19:1; finetune mouse 19,387 19:1. Nb length 152. Hidden width Roformer — NR. HuDiff Methods 291; 1,738,321; kernel 7

[PAPER]Внешние файлы: PDB для PG templates/hotspots/DSSP; OAS dumps; library CSV нет как вход generator. HuAb service YabXnization — не локальный checkpoint. Lisanza optional structural information; HuAb YabXnization URL

[PAPER]Аугментации: EvoDiff MSA Rand vs MaxHamming depth 64×512. PG recycle 1–3 structure; GMM2/GMM3 sampling. HuDiff permutation $\sigma$ FR. 3D rotation: только PG structure track, не EvoDiff tokens. Alamdari MSA 64×512; Lisanza recycle 1–3

[INTERPRETATION]Masks: D3PM нет [MASK] канона; absorbing tools — [MASK]/# на FR. Classifier-free ELISA — нет.

[INTERPRETATION]DiffAb type one-hot 21 — не data-repr catalog tools этого id.

5. Физическое представление

Общее для класса

Математический объект класса соответствует такому физическому state: «Discrete sequence state». State — identity токенов. Перестановка residues ломает биологическую sequence; лабораторная поза кристалла на токены не действует. Masked / noisy token ≠ фолдинг. Ниже papers фиксируют, какой вариант они выбрали.

[INTERPRETATION]$x_i$ ↔ однобуквенный код (или gap/pad/mask). Assay $y$ (BLI, ELISA, microscopy, CD, SEC) не координата диффузии.

[INTERPRETATION]SE(3): не применимо к EvoDiff/HuDiff/HuAb (нет coords в generator state). PG: RF декодирует $y$; диффузионный state — sequence tensor, не IGSO(3). Global rotation ломает PG templates, не EvoDiff tokens.

[PAPER]Перестановка residues в биологическом порядке ломает смысл, кроме явного $\sigma$ HuDiff и OADM. Concat VH||VL: HuDiff-Ab paired 291; HuAb генерирует цепи отдельно (H и L temperatures разные); EvoDiff unpaired UniRef. HuDiff paired 291; HuAb 0.7 vs 0.65

[PAPER]Side chains: отсутствуют в EvoDiff/Hu* tokens. PG — в предсказанной структуре RF; pack MPNN не канон (30% train — fixed backbone design task внутри RF). Lisanza 30% fixed backbone sequence design

[PAPER]$x_t$ / # / Gaussian logits ≠ фолдинг-траектория и ≠ энергия. AF2/OmegaFold/Chai на generated sequence — predictor. HuAb Chai pLDDT; Alamdari OmegaFold

[PAPER]Antigen coords: нет у EvoDiff-D3PM/HuAb/HuDiff generator. PG hotspots/DSSP optional. Не ELISA epitope tensor. HuDiff CDR-only input; Lisanza hotspot unmask

[PAPER]MSA EvoDiff — evolutionary context, не $y$. Subsample 64. Alamdari depth 64

[PAPER]Black-hole init PG structure — математическая заглушка, не физический collapse. Lisanza black-hole initialized structure

6. Физико-химический смысл

Общее для класса

Какие физико-химические оси класс вообще может «видеть». Этот класс — в первую очередь identity и sequence statistics; геометрию — только если conditioner её подаёт. H-bonds, электростатика, растворитель, энтропия и experimental affinity отсутствуют, пока нет явной energy / assay головы: модель тогда не считает $\Delta G$. Таблица ниже — как конкретные методы кодируют эти оси; строка про один tool не обобщается на класс.

[INTERPRETATION]Нет energy head у EvoDiff-D3PM/HuAb/HuDiff. PG FAPE — геометрический loss RF, не $\Delta G$ и не SPR. Запрещено писать, что класс «считает $\Delta G$».

Признак или операция моделиФизико-химическая интерпретацияПрямо / косвенно / внешнеВажное ограничение
Identity AAпервичная структурапрямо: Cat tokens / L×20 logits / MASKD3PM BLOSUM — статистика подстановок, не mutational chemistry in vivo
Backbone / frames / torsions3D foldEvoDiff/Hu* — не в state; PG — RF decode + FAPEpLDDT predictor ≠ crystal; PG design pLDDT ≠ Kd
Antigen / hotspotинтерфейсне представлена (Hu*, EvoDiff-D3PM); PG — опциональные templates/hotspotshumanization tools не antigen-conditioned co-design
H-bonds / electrostatics / solvationстабильность / NSBPG charge/hydropathy guidance косвенно; иначе не явноguidance ≠ измеренный pI/SAP как loss EvoDiff
Evolutionary statisticsUniRef / OAS / BLOSUM / germlineпрямо корпуса; BLOSUM Q; AbNatiV fine-tune HuDiffOAS unpaired HuAb vs paired HuDiff — разные biases
Experimental yBLI / ELISA / CD / localizationне в D3PM/HuAb diffusion loss; HuDiff fine-tune — AbNatiV не BLI; PG iterative GB1 — classifier на fitness, не этот catalog defaultне переносить HuDiff nM на EvoDiff-D3PM

7. Что обучается

Общее для класса

Общий train target класса: «Variational bound / cross-entropy on clean tokens». Нужно назвать, какие модули обучаются, какие frozen (PLM, MSA, RoseTTAFold trunk), и есть ли в loss negative / non-binder / affinity labels. Если в постановке класса labels нет — ответ «нет», даже если кто-то доучивает голову в приложении. Fine-tune vs pretrain различается объектом (PDB identities, SAbDab, assay $y$), не маркетингом. Детали сплитов — в подразделах papers.

[PAPER]Параметры $\theta$ denoiser. Frozen: HuDiff AbNatiV при fine-tune (scores, Gumbel backprop через one-hot). PG — finetune всего RF. Affinity labels в EvoDiff-D3PM / HuAb diffusion нет. Negative binders нет (кроме искусственного шума). HuDiff Gumbel AbNatiV; Alamdari no assay loss

[PAPER]EvoDiff-D3PM: $L_{vb}$ only ($\lambda=0$). OADM CE — другой подтип/страница. Adam 1e-4, warmup 16k Seq. λ=0; Adam 1e-4 16k warmup

[PAPER]PG: CE sequence + FAPE family + KL $x_{t-1}$. Self-cond. Recycle 1–3. Не ELISA. Training CE FAPE KL self-cond

NRHuAb: discrete diffusion CE (D3PM/DiffusionBERT). Точная $L$ формула с номером Austin в paper не выписана — NR besides absorbing description.

[PAPER]HuDiff pretrain ARDM $F\cdot L_t$ + CDR assistant; finetune max VH/VL AbNatiV. Humanness scores ≠ affinity labels. Eqs. 7–8

[PAPER]Pretrain корпуса: UniRef50 42M; PDB+RF data PG; OAS unpaired 6M HuAb; OAS paired 1.74M HuDiff. Не один split. each Methods datasets

[PAPER]Fine-tune: HuDiff mouse/VHH; PG DSSP later iterations; EvoDiff scaffolding без finetune (same weights). HuAb finetune на ELISA нет. Alamdari same models unconditional/conditional

[PAPER]Teacher forcing: HuDiff ARDM on remaining masks. PG predicts $x_0$ not teacher-forced tokens. D3PM $x_0$-parameterization Austin (4). Austin Eq. 4 x0 parameterization

NRCODE optimizers line-by-line — NR.

8. Прямой проход и information flow

Общее для класса

Прямой проход класса: токены (± mask/шум) → сеть → новые токены / logits. Геометрия, pack, AF, docking — чужие блоки. Чужие блоки (pack, AlphaFold, docking, ELISA) нельзя прятать внутрь «одной сети». Схема ниже, если есть, — оригинал по прочитанным источникам, не копипаст figure. Затем — где у tools generator, а где evaluator.

[PAPER]EvoDiff-D3PM: $x_T$ uniform AA → ByteNet($x_t,t$) → sample $x_{t-1}$ ×500 → sequence. OmegaFold / ESM-IF / DR-BERT — predictor/evaluator. Не прятать внутрь CNN. Alamdari sampling Equation 5; Fig. 2A evaluators

[PAPER]PG: Gaussian $x_T$ + black-hole $y$ → RF predicts $x_0,y$ → noise to $x_{t-1}$ + self-cond → AF2 filter evaluator → expression experiment. MPNN не обязателен post-hoc (в отличие от RFdiffusion pipeline). Fig. 1b; AF2 filters Methods

[PAPER]HuAb: CDRs + masked V → 512 Transformer steps → ESM-1b/1v LL rank evaluator → ELISA/BLI experiment. Chai/pLDDT — predictor. Fig. 1; Variants ranking

[PAPER]HuDiff: CDRs + # FR → Dual CNN + Roformer → unmask order $\sigma$ $F$ steps → AbNatiV/OASis evaluator → BLI experiment. inp зажимает FR2 Nb. Fig. 1a–b; Nb inp

[INTERPRETATION]Sequence появляется сразу; geometry — только PG RF decode или внешний AF. Score (ppl, i_pTM-like) — evaluator.

[PAPER]EvoDiff-OADM forward — infill-страница, не этот mermaid-канон D3PM. OADM T=L

[PAPER]Не прятать ProteinMPNN scPerplexity HuAb внутрь Transformer. HuAb scPerplexity ProteinMPNN

NRCODE graphs — NR.

flowchart TD
  NOISE["x_T: uniform AA or MASK/hash FR or Gaussian Lx20"] --> DEN["Denoiser θ"]
  DEN --> D3["EvoDiff-D3PM: Cat Q T=500 — generator"]
  DEN --> PG["PG: RF predict x0,y then renoize — generator"]
  DEN --> HAB["HuAb: Transformer unmask FR T=512 — generator"]
  DEN --> HD["HuDiff: ARDM unmask FR T=F — generator"]
  D3 --> SEQ["Sequence x0"]
  PG --> SEQ
  HAB --> SEQ
  HD --> SEQ
  PG --> YSTR["RF structure y — entangled decode"]
  SEQ --> LL["PPL / ESM LL / AbNatiV — evaluator"]
  SEQ --> AF["AF2 / OmegaFold / Chai — predictor"]
  YSTR --> AF
  AF --> EXP["ELISA / BLI / CD / microscopy — experiment"]
  subgraph gen ["Generator"]
    DEN
    D3
    PG
    HAB
    HD
  end
  subgraph ev ["Evaluator / predictor"]
    LL
    AF
  end
  subgraph ex ["Experiment"]
    EXP
  end
Схема класса по Austin reverse, Alamdari D3PM, Lisanza Fig. 1b, HuAb Fig. 1, HuDiff Fig. 1a — не копипаст paper figures. Generator отделён от AF/ESM LL и от assay. Источник схемы: Austin reverse; Alamdari Fig. 1C; Lisanza Fig. 1b; HuAb Fig. 1; HuDiff Fig. 1a

9. Training procedure

Общее для класса

У класса нет единого корпуса. Типичные данные: sequence corpora (UniRef, OAS, antibody subsets) — не «все PDB» автоматически. Split и leakage — свойства датасета реализации. Не выводить split из README. Не смешивать in silico designability с prospective wet-lab. Ниже каждый paper описывает свой корпус; нет цифры = NR.

[INTERPRETATION]Единого split класса нет. Не выводить EvoDiff split из README. Не смешивать UniRef50 с OAS paired.

[PAPER]EvoDiff-Seq: 42M UniRef50. 38M: 8×V100 ~2 weeks ~700k steps; 640M: 32×V100 23 days без сходимости (OADM и D3PM-Uniform). MSA 372 296 train / 10 000 val. $t\sim U\{1,\ldots,T-1\}$ D3PM. Test ppl: sample t, corrupt, one forward; числа S1 NR. Alamdari Methods training; 42M; 23 days

[PAPER]Симуляция vs wet-lab EvoDiff: pLDDT/scPPL — in silico. Prospective OADM (не D3PM): IDR Cox15; Ca2+; MDM2 BLI — preprint. Не приписывать D3PM. EvoDiff-Seq = OADM for downstream

[PAPER]PG: PDB RF set; t uniform [0,T]; 40/30/30 tasks. Unconditional 70–80 aa, 25 steps, filter AF2 pLDDT>90 RMSD<2 Å — симуляция отбора, затем expression. Training T — NR. Unconditional protein generation filters

NRHuAb: 80? split HTML не даёт train/val ratio — NR besides 22 mAb test. 22 in silico vs 3 ELISA clones — не смешивать.

[PAPER]HuDiff: 19:1. Pretrain human paired; finetune mouse ~20k. Nb: VH pretrain then VHH finetune. In silico HuAb348/Humab25 vs HEK BLI 2B04 — разные oracles. 19:1 splits; Fig. 3 BLI 2B04

NRLeakage HuAb 22 mAbs vs OAS — NR. HuDiff experimental mAb vs OAS — NR.

[PAPER]Self-conditioning: PG да. EvoDiff D3PM — NR. Teacher forcing HuDiff ARDM да. Lisanza self-conditioning

[PAPER]Batch: HuDiff 256; HuAb 64; EvoDiff dynamic. CODE NR. HuDiff batch 256; HuAb 64

10. Inference and generation

Общее для класса

Общий inference класса: «T denoising steps from noise or from partially noised motif». Старт — маска, полностью случайная sequence или prefix. Pack / relax / AF / likelihood rerank помечаются как evaluator, не generator. Чего в классе нет (beam, recycle, assay-in-the-loop), пока tool явно не добавляет, — тоже общее свойство. Число шагов $T$, temperature, $k$ — tool-specific, если не оговорено.

[PAPER]Старт D3PM: uniform AA, length from train ≤2048. PG: Gaussian $L\times 20$ + black-hole. HuAb: aligned CDRs + 149 MASK. HuDiff: CDRs, FR=#, $T=F$. each Methods sampling start

[PAPER]Алгоритм: D3PM ancestral Cat $T=500$ (не top-k канон). PG $T_{\mathrm{inf}}$ 10–50 (25 common); GMM optional; clamp logits. HuAb 512 steps, T=0.7/0.65. HuDiff T iterative unmask FR; Nb inp flag. PG as few as 10 steps Fig. 1c; HuAb 512

[PAPER]Post-hoc evaluator: EvoDiff OmegaFold; PG AF2 pLDDT/RMSD/SAP; HuAb ESM LL + Chai; HuDiff OASis/T20/AbNatiV. Pack/relax не канон D3PM. PG FastRelax — NR в Methods как обязательный. filter lists Methods

[PAPER]Чего нет: beam как канон; AF recycle в EvoDiff; ELISA-in-the-loop; CFG ELISA. PG recycle 1–3 — train RF, не assay. Lisanza recycle training

[PAPER]HuAb ESM rerank — не diffusion. Не называть LL «affinity head» (авторы цитируют корреляции в литературе, не свою SPR loss). log-likelihood scores ranking paragraph

[PAPER]Argmax vs sample: HuAb temperature; D3PM stochastic reverse. PG GMM vs N(0,I). PG GMM2 GMM3

[PAPER]Partial noising PG $\lambda\in(0,1]$ sets start $t=\mathrm{round}(T\lambda)$ — local redesign, не full $x_T$. Partial noising λ

NRCLI / service internals HuAb — NR.

11. Conditioning

Общее для класса

Что класс умеет зажимать по постановке: «Motif clamping, classifier-free guidance, MSA». mask / framework / motif tokens — не hotspot Cα, пока 3D не подают. Contig, mask, motif, hotspot и library — разные объекты. Ниже papers перечисляют свой conditioner без переноса с соседа.

[PAPER]Зажимается: EvoDiff motif AA identities (OADM clamp; D3PM guidance — future, не default). PG: sequence/structure motif, DSSP, hotspots, contig lengths, compositional/charge/hydropathy potentials, multistate DSSP mix 0.25. Hu*: CDRs visible; HuDiff Nb inp FR2. Lisanza mixing coefficient 0.25; HuDiff inp

[INTERPRETATION]Чего нет: ELISA tensor; measured_var EVOLVEpro; epitope graph PALM; CATH как default EvoDiff.

[PAPER]Classifier-free guidance: EvoDiff D3PM discussed as future, не реализованный default. PG sequence-based guidance = potentials on $x_0$, не CFG class labels ELISA. Alamdari Discussion guidance; Lisanza amino acid potential

[PAPER]Contig RFdiffusion-style: PG да (Methods spans / SI). EvoDiff/HuAb — не contig-string RFD. Lisanza unmask spans motif

[PAPER]MSA conditioner EvoDiff-MSA. HuAb unpaired chains. HuDiff paired Ab. Alamdari MSA; HuDiff paired OAS

[PAPER]Library $\mathcal{X}$ не вход D3PM (unconditional length dist). GB1 PG iterative — four sites V39 D40 G41 V54, 96/round ×3 — tool-specific campaign, не humanization. Iterative guidance GB1 96 designs three rounds

[INTERPRETATION]Function keywords ESM3 — не этот класс.

[PAPER]HuAb type embedding 0=CDR 1=V — conditioner, не antigen. HuAb type layer 0/1

12. Вычислительная сложность

Общее для класса

Драйверы стоимости класса: «T steps; L length; guidance evaluations». Сравнение «дешевле diffusion» допустимо только если paper дал NFE/steps; иначе это INTERPRETATION или молчание. GPU hours / wall-clock без источника — NR. Цифры одной кампании не становятся сложностью всего класса.

[INTERPRETATION]Драйверы: $L$; $T$ (500 D3PM / 512 HuAb / $F$ HuDiff / $T_{\mathrm{inf}}$ PG); ByteNet vs $O(L^2)$ attn; MSA $64\times 512$; RF pair; #samples; AF2 filter NFE; assay latency.

[PAPER]PG: solutions in as few as 10 steps (Fig. 1c). «Дешевле RFdiffusion» по NFE — не утверждать: paper сравнивает motif success, wall-clock — SI Table 2 NR. Fig. 1c 10 steps; RFdiffusion better large proteins Supplementary Fig. 5c

[INTERPRETATION]EvoDiff 640M ×500 D3PM vs OADM $L$ steps — разные режимы, не «дешевле Cartesian» без NFE table.

[PAPER]HuAb: A100 mentioned; train wall-clock — NR. HuDiff batch 256, lr 1e-4 — не sampling GPU-hours. HuAb Nvidia A100; HuDiff Adam 1e-4

[PAPER]EvoDiff train 8×/32×V100 — PAPER. Не переносить на HuAb A100. Alamdari 8 vs 32 V100

NRCODE throughput — NR.

13. Преимущества

Общее для класса

Преимущества должны следовать из механизма класса (цикл с малым бюджетом, локальный граф, joint prior…), не из маркетинга. Seed-список: «Любой subset можно зафиксировать маской; Не требует AR order». Любое количественное число ниже обязано иметь PAPER/SI locator и не обобщается с одного белка на класс. Это не гарантия стабильности, аффинности или экспрессии.

[PAPER]Из постановки: любой subset можно зажать (маска/clamp) без AR order; D3PM оставляет возможность переписать токен каждый шаг (guidance). PG sequence guidance (composition, hydropathy) проще, чем в structure-space DDPM — авторский claim. Lisanza sequence space rather than structure space

[PAPER]EvoDiff: sequence-only IDRs, где structure generators typically fail (авторский claim). Wet-lab OADM, не D3PM. Не обобщать на класс D3PM. IDR inpainting; EvoDiff-Seq OADM

[PAPER]PG: motif AF2 RMSD<2, motif RMSD<1, pAE<5 (in silico); experimental soluble designs, disulfides 3–4 Cys, CD thermostable. Не antibody. Не Kd. Fig. 4c motif; Cys mass spec 3–4 disulfides

[PAPER]HuDiff: hAb1.2 $K_D$ 0.15 nM vs parent 0.12 nM BLI; 39 mutations; ELISA all five bind. Nb hNb1.1 2.52 nM vs 5.47 nM (54%). Одна 2B04 и две Nb серии preprint. Не класс, не HuAb ELISA ng/ml. HuDiff Fig. 3d 0.15 vs 0.12; 2.52 vs 5.47

[PAPER]HuAb ELISA EC50 ng/ml: BAMU-16 2.374 vs 16CM 2.610; BAMU-38 2.081 vs 38CM 2.815; BAMU-13 4.519 vs 13CM 3.093 (не лучше chimeric). Не nM Kd. Table S7 BLI NR cells. Table 4 EC50

[PAPER]Явно: sequence plausibility / humanness / pLDDT не гарантия стабильности / аффинности / экспрессии / низкой ADA. HuAb Fig. 5 ELBO vs ADA — retrospective 217 therapeutics, не designs BAMU. HuAb Fig. 5 ADA 217

[PAPER]Austin: выбор $Q$ — design decision (uniform vs absorbing vs NN). Не универсальный kernel. Austin choice of transition matrix important

[INTERPRETATION]Не сравнивать PG 68/soluble E. coli с HuDiff nM как один success column.

14. Ограничения

Общее для класса

Ограничения класса по осям: математика представления, физика/химия, bias данных, обобщение, deployment. Seed-список: «Много steps; Sequence plausibility ≠ 3D». Не дублировать преимущества с обратным знаком без новой информации. Ниже papers добавляют конкретные дыры (SI, split, gated weights).

[PAPER]Математика: D3PM труднее OADM (Alamdari); absorbing фиксирует AA после unmask (плохо для guidance); PG Gaussian на logits ≠ calibrated Cat; ARDM $T=F$ растёт с CDR-graft length. OADM easier than D3PM; OADM fixes identity

[PAPER]Представление: нет 3D у EvoDiff/Hu*; PG RF bias; HuAb AHo pad 149; HuDiff IMGT 291 ghosts -. pad tokens HuDiff

[INTERPRETATION]Физика: нет electrostatics PDE. BLOSUM ≠ mutational process в клетке.

[PAPER]Данные: UniRef/OAS/PDB biases; HuAb unpaired; HuDiff mouse finetune ~20k; PG no antibody proof. Lisanza no antibody-specific; HuDiff 19387

[PAPER]Обобщение: D3PM не выбран для EvoDiff downstream; HuDiff 3 parent series; HuAb 3 ELISA clones; PG miniprotein-scale campaigns. three parent HuDiff evidence_summary MATRIX/PAPER

[MATRIX]Deployment: EvoDiff MIT preprint; PG MIT+ckpt; HuDiff custom license NR; HuAb commercial service, source NR, GenScript patents pending.

15. Failure modes

Общее для класса

Типичные ошибки пользователя и модели для этого класса: слишком большой mask, temperature $\to 0$, NLL/AAR как affinity. Seed-список: «Слишком мало steps; Motif scaffolding без 3D constraints». Это не общие «может не сработать». Дальше — как эти режимы проявлялись в конкретных работах каталога.

[INTERPRETATION]Конкретные ошибки, не «может не сработать».

16. Реализации в инструментах

Общее для класса

Реализации класса в каталоге определяются reverse index architecture_id, а не похожестью названия. Колонки таблицы: generic architecture vs tool-specific. Непрочитанный tool — строка с NR, без выдуманных уравнений. Foundational methods вне карточек tools можно указать явно. Неравные кампании не ставят в одну колонку «успех». Список ссылок на tools повторяется служебным блоком после нумерованных разделов.

[MATRIX]Полный reverse index. CODE SHA всех — NR. Неравные oracles не в одной колонке успеха.

[INTERPRETATION]
ToolGeneric architectureTool-specific implementationImportant difference
EvoDiffdiscrete token diffusionD3PM Uniform/BLOSUM T=500 λ=0 ByteNet; и OADM T=L (другой id); UniRef50 42M; CODE NRD3PM не выбран как EvoDiff-Seq; wet-lab OADM
ProteinGeneratorsequence-space noisingRF; Gaussian $L\times 20$; CE+FAPE; sqrt; self-cond; CODE NR; training T NRНе Cat $Q$; structure entangled; не antibody
HuDiffabsorbing FR ARDMDual CNN+Roformer; T=F; OAS paired; AbNatiV FT; BLI 0.15/0.12 nM preprint; CODE NR; journal NMI не syncНе D3PM Q; также AR architecture_id
HuAbDiffusionabsorbing MASK FR D3PM-like12L Transformer d=1024 T=512; OAS unpaired 2M×3; ESM rerank; ELISA Table 4; repo NR; service YabXnizationНе HuDiff ARDM; не paired Dual CNN
[PAPER]
Метод вне карточек / не этот idЗачем указанНе делать
Austin D3PM / Hoogeboom OADM-ARDMродовые kernelsномера appendix без PDF — NR
EvoDiff-OADMsibling infill idне уравнение D3PM-страницы как default
DiffAb type channelcategorical CDR + framesjoint diffusion id
RFdiffusionstructure-spaceне sequence Q
ProGen / ESM3AR / MLMнет этого architecture_id как diffusion

17. Где применимо и где не применимо

Общее для класса

Класс уместен для задач: general-protein-sequence-generation; humanization. Не уместен: de-novo-backbone-generation. Ссылки на workflows имеют смысл, только если стадия реально вызывает этот класс как generator/scorer, а не как соседний модуль. Чем пользоваться вместо запрещённой задачи — соседний architecture / workflow, не «тот же GNN». Ниже — разбор papers и явные запреты, затем служебные списки каталога.

[MATRIX]Применимо для sequence-first генерации и motif sequence clamp (EvoDiff, sequence-first-de-novo); humanization FR от CDR (HuDiff, HuAbDiffusion, humanization-framework); sequence-space guidance / multistate (ProteinGenerator). Задачи general-protein-sequence-generation, humanization, motif-scaffolding (sequence-level).

[INTERPRETATION]Этим нельзя заменять: de novo backbone control (frame-diffusion, RFdiffusion); antigen-conditioned Ab 3D (joint sequence–structure diffusion); few-shot ELISA loop (active-learning); IF при готовом backbone (ProteinMPNN).

[MATRIX]Не использовать D3PM likelihood как Kd. Не использовать HuAb ELBO как ADA новых дизайнов. Нужен binding assay.

[INTERPRETATION]EvoDiff IDR evidence не делает tool antibody therapeutic generator. PG не имеет antibody wet-lab в primary. HuDiff nM не переносится на HuAb EC50.

18. Методологические источники

Общее для класса

Этот раздел — какие работы определяют класс и какие карточки papers каталога к нему привязаны, что прочитано vs pointer-only. Идентификаторы каталога: paper-evodiff; paper-hudiff. Это не библиография «всего по теме». Таблица происхождения источников, paywall и статус сверки вынесены в конец страницы, чтобы не заслонять определение класса.

[PAPER]Foundational: Austin D3PM; Hoogeboom ARDM/OADM (HuDiff ref. 64; Alamdari 24). Catalog: paper-evodiff, paper-protein-generator, paper-hudiff, paper-huabdiffusion.

[INTERPRETATION]Прочитано: Alamdari v2 Methods D3PM; Austin HTML Eqs.; Lisanza Methods; HuAb BIB Methods+Table 4; HuDiff bioRxiv Methods Eqs. 3–8. Pointer-only: EvoDiff S-tables; PG SI Table 2 / Alg S1; HuDiff NMI journal; all commits; HuAb S7 BLI.

[PAPER]Не библиография всего discrete diffusion: Sohl-Dickstein, Hoogeboom multinomial, DiffusionBERT — указаны papers, не карточки tools. Austin related work; HuAb DiffusionBert ref

Инструменты, использующие подход

EvoDiff, HuAbDiffusion, HuDiff, ProteinGenerator

Где применимо

Генерация белковых sequences, Humanization

Где не стоит использовать

De novo генерация backbone

Papers каталога

Protein generation with evolutionary diffusion: sequence is all you need, Humanization of antibodies and nanobodies by diffusion models

Подтипы класса

Статус сверки источников

partially verified Последняя сверка источников: 2026-08-27. Класс — generator дискретного (или sequence-space) noising токенов, не Cartesian DDPM. Прочитаны: Alamdari et al. bioRxiv 10.1101/2023.09.11.556673 v2 HTML Methods D3PM vs OADM (preprint, не journal); Austin et al. D3PM arXiv HTML 2107.03006 Eqs. 1–5 (NeurIPS 2021); Lisanza et al. Nat. Biotechnol. HTML Methods sequence-space Gaussian (journal; SI Algorithms S1–S2 / Table 2 wall-clock не построчно); Liu/Hao/Fan HuAbDiffusion Brief. Bioinform. HTML Methods+ELISA Table 4 (journal 10.1093/bib/bbaf658); Ma et al. HuDiff bioRxiv 10.1101/2024.10.22.619416 HTML Methods ARDM Eqs. 3–8 (preprint; Nature Mach. Intell. 10.1038/s42256-025-01120-9 не page-sync). CODE microsoft/evodiff, TencentAI4S/HuDiff, RosettaCommons/protein_generator, HuAbDiffusion repo — не аудированы (commit NR). EvoDiff Table S1–S6 numeric cells HTML NR.

Недоступные или неполные источники

ИсточникПочему недоступенЧто использовано вместо
Alamdari EvoDiff Supplementary Tables S1–S6 numeric ppl/FPD cellsHTML «View this table» без чиселКачественно: OADM ppl лучше D3PM Uniform/BLOSUM; T=500 λ=0 — Methods prose
microsoft/evodiff commit SHA + sampler functionsextra_constraints: code unaudited this passD3PM Uniform/BLOSUM, sinusoidal t, x_T uniform AA — bioRxiv Methods
Lisanza Nat. Biotechnol. SI Algorithms S1–S2 and Supplementary Table 2 (inference wall-clock, training T)SI PDF не извлечён построчноEq. (1) Gaussian $L\times 20$, sqrt schedule, CE+FAPE, self-cond, inference 10–50 steps — journal Methods; training $T$ numeric — NR (GitHub README 1000 не CODE)
RosettaCommons/protein_generator commit SHAрепозиторий не line-auditArchitecture RF + sequence diffusion — PAPER; contig CLI — NR
HuDiff Nature Machine Intelligence 10.1038/s42256-025-01120-9 journal HTML/SIВ этом проходе канон — bioRxiv HTML; journal pagination не сличенаARDM Eqs. 3–8, IMGT 291, BLI 0.15 vs 0.12 nM — preprint; Science-adjacent journal-only numbers NR
TencentAI4S/HuDiff commit SHACODE unauditedCNN kernel 7, Adam 1e-4, batch 256 — bioRxiv Methods; CLI flags — NR
HuAbDiffusion official_repository + Table S7 BLI numeric cellsrepo NR (MATRIX); S-table HTML не отдал KdELISA Table 4 EC50 ng/ml clone 13/16/38; architecture 12L Transformer T=512 — journal Methods
Austin D3PM Appendix A closed-form $\bar Q_t$ proofsчитался HTML §§2–5, не все appendix derivationsUniform $Q_t=(1-\beta_t)I+\beta_t\mathbf{1}\mathbf{1}^\top/K$; absorbing; hybrid $L_\lambda$ Eq. 5 — основной HTML

Происхождение источников

МеткаИсточникСсылкаПримечание
[PAPER]Alamdari S. et al. Protein generation with evolutionary diffusion: sequence is all you need. bioRxiv 10.1101/2023.09.11.556673https://www.biorxiv.org/content/10.1101/2023.09.11.556673v2.fullPreprint: D3PM T=500 λ=0 Uniform/BLOSUM; OADM T=L — sibling infill; UniRef50 42M
[PAPER]Austin J. et al. Structured Denoising Diffusion Models in Discrete State-Spaces. NeurIPS 2021 / arXiv:2107.03006https://arxiv.org/abs/2107.03006Foundational D3PM: Cat(x_t; x_{t-1} Q_t); uniform/absorbing/NN kernels; L_λ=L_vb+λ CE
[PAPER]Lisanza S.L. et al. Multistate and functional protein design using RoseTTAFold sequence space diffusion. Nat. Biotechnol. (2024/2025)https://doi.org/10.1038/s41587-024-02395-wJournal: Gaussian on scaled one-hot L×20, not amino-acid D3PM Q; CE+FAPE; RF backbone
[PAPER]Liu D., Hao X., Fan L. HuAbDiffusion: a discrete language diffusion model used for antibody humanization. Brief. Bioinform. 26, bbaf658 (2025)https://doi.org/10.1093/bib/bbaf658Journal: absorbing MASK on FR, CDR clamp, T=512, Transformer; YabXnization service; no public repo
[PAPER]Ma J. et al. An adaptive autoregressive diffusion approach to design active humanized antibody and nanobody. bioRxiv 10.1101/2024.10.22.619416https://doi.org/10.1101/2024.10.22.619416Preprint: ARDM absorbing FR, T=F framework length; Dual CNN+Roformer; AbNatiV fine-tune; not D3PM Q_t
[MATRIX]catalog reverse index architecture_id sequence-diffusionNRevodiff, hudiff, huabdiffusion, protein-generator

Методологические источники

  1. [1] Alamdari S. et al. Protein generation with evolutionary diffusion: sequence is all you need. bioRxiv 10.1101/2023.09.11.556673. · DOI · источник
  2. [2] Austin J. et al. Structured Denoising Diffusion Models in Discrete State-Spaces. arXiv:2107.03006 (NeurIPS 2021). · источник
  3. [3] Lisanza S.L. et al. Multistate and functional protein design using RoseTTAFold sequence space diffusion. Nat. Biotechnol. doi:10.1038/s41587-024-02395-w. · DOI · источник
  4. [4] Liu D., Hao X., Fan L. HuAbDiffusion: a discrete language diffusion model used for antibody humanization. Brief. Bioinform. 26, bbaf658 (2025). · DOI · источник
  5. [5] Ma J. et al. An adaptive autoregressive diffusion approach to design active humanized antibody and nanobody. bioRxiv 10.1101/2024.10.22.619416. (Nature Mach. Intell. journal не page-sync в этом проходе.) · DOI · источник
  6. [6] Hoogeboom et al. Autoregressive Diffusion Models — цитируется HuDiff (64) и Alamdari (24); PDF уравнений не close-read beyond HuDiff Methods transcription.
  7. [7] microsoft/evodiff, RosettaCommons/protein_generator, TencentAI4S/HuDiff — pointer; commits не аудированы.

Нерешённые научные вопросы

  • EvoDiff Table S1–S6 numeric ppl/Hamming/FPD
  • microsoft/evodiff commit and D3PM sampler symbol
  • ProteinGenerator training T (Nature Methods не число; GitHub README 1000 не CODE)
  • Lisanza SI Table 2 wall-clock; Algorithms S1–S2 line-level
  • RosettaCommons/protein_generator commit
  • HuDiff Nature Mach. Intell. 10.1038/s42256-025-01120-9 vs bioRxiv pagination
  • TencentAI4S/HuDiff commit; Roformer hidden width
  • HuAbDiffusion Table S7 BLI Kd; AdamW learning rate (HTML обрыв); train/val split ratio
  • HuAbDiffusion source repo (MATRIX NR)
  • Austin Appendix closed-form Q-bar derivations not transcribed