Zero-shot mutation scoring

Zero-shot оценка мутаций. Established English term: Zero-shot mutation scoring.

Что это за класс

Определение класса — общее для всех papers и tools с этим architecture_id. Это не карточка одной нейросети. После каждого нумерованного заголовка сначала идёт блок «Общее для класса», затем разбор конкретных статей, как раньше.

Zero-shot оценка мутаций ранжирует substitutions без новых экспериментальных labels. Сравнивают, насколько мутант «естественен» для pretrained PLM или совместим с backbone у inverse folding: типично $\Delta\ell=\log p(s^{\mathrm{mut}}\mid c)-\log p(s^{\mathrm{wt}}\mid c)$.

Это скоринг уже заданных точечных замен, не генерация библиотеки с нуля и не обучение на вашем ELISA. Высокий $\Delta\ell$ значит «модель меньше удивлена», не «лучше $K_d$». Эпистаз и дальние эффекты обычно не поймать.

Что на выходе. Ранжированный список single substitutions (19 × позиции). Ensemble моделей может стабилизировать ранг, не калибруя affinity.

Чего класс не делает. Не few-shot (нет $D_t$). Не de novo. Не замена BLI. Переоценка evolutionary plausibility — главный failure mode.

Каталог: ESM-1v masked-marginal (Meier) и кампании Hie / Shanker (IF Δℓ на комплексе). Не смешивать masked-marginal и wild-type-marginal без оговорки.

Сначала общая формула скоринга, затем различия протоколов papers.

Zero-shot mutation scoring — scorer (иногда mutation-proposal workflow): ранжирует substitutions parent'а по pretrained likelihood без новых $y$. Это не generator новой topology, не few-shot surrogate на ELISA и не affinity predictor. Masked-marginal Meier, wild-type-marginal Hie и IF $p(x\mid Y)$ Shanker — разные формулы.

1. Область определения

Общее для класса

Этот пункт фиксирует роль класса в пайплайне и границу с соседями. Класс стоит вокруг эксперимента: он выбирает или ранжирует варианты, а не рисует новый fold. Краткая seed-формула: «Без новых experimental labels модель ранжирует substitutions по тому, насколько они «естественны» для PLM или совместимы с backbone». Что метод выдаёт или оценивает: «Ranked single substitutions». Вход: «Parent sequence and/or complex backbone». Задачи каталога, которые класс закрывает: single-mutation-proposal; affinity-maturation. Явно не для: few-shot-active-learning. Дальше по разделу — какие tools имеют этот architecture_id и какие постановки нельзя смешивать.

[INTERPRETATION]Роль — scorer pretrained density $p_\theta(s\mid c)$ на мутационном перечислении. Workflow каталога превращает ranking в mutation proposal, но train target класса нет: θ заморожен. Это не sequential design loop с обновлением $f_\phi$ по $y$ и не geometric inductive bias как определение класса.

[PAPER]Scored state — discrete substitutions относительно parent: обычно 19 альтернатив × позиции VH/VL (или белка). Generated object каталога — ranked list, не новая складка. Conditioner $c$: последовательность (Meier/Hie) или backbone/complex coords (Shanker). Intermediate embedding ≠ энергия. Hie Methods all single-residue substitutions VH/VL; Shanker ~4300 singles

[MATRIX]Задачи: single-mutation proposal, affinity maturation как zero-shot-then-assay. Workflow: zero-shot mutation. Seed исключает few-shot active learning: там нужны labels. architectures/zero-shot-mutation-scoring.yaml applicable / not_for

[PAPER]Это не few-shot mutation optimization / active learning: EVOLVEpro учит $f_\phi$ на assay. Hie/Shanker не обновляют веса по BLI между раундами — round 2 комбинирует уже измеренные singles. Hie two laboratory rounds; Jiang EVOLVEpro — соседний класс

[INTERPRETATION]Это не protein language models целиком: PLM — семейство ролей (AR, MLM, frozen $E$, Δℓ). Здесь только роль scorer. ESM-1v efficient evolution несёт оба id.

[MATRIX]Это не inverse folding как generator $p(s\mid x)$ для redesign маски. Shanker использует IF likelihood для ranking при заданном complex — пересечение id у structural evolution, но канон этой страницы — zero-shot scoring, не sampling FASTA. AntiFold — IF generator, нет этого architecture_id.

[INTERPRETATION]Это не masked-token infilling: infill семплирует span. Δℓ не порождает de novo CDR library. Не sequence diffusion.

[MATRIX]Catalog tools: ESM-1v efficient evolution, structural evolution. Путают с EVOLVEpro (few-shot), AntiFold (IF sample), ProteinMPNN, AbLang/Sapiens (Hie baseline, не catalog tools).

2. Интуитивный принцип

Общее для класса

Общий механизм Zero-shot mutation scoring: что меняется за один шаг inference и за счёт какого inductive bias метод может работать. «Без новых experimental labels модель ранжирует substitutions по тому, насколько они «естественны» для PLM или совместимы с backbone». Главный эмпирический рычаг класса — бюджет раунда, состав пула, правило acquisition, шум assay; это не «магия одной статьи». Для Zero-shot mutation scoring внутренние числа модели (likelihood, score, acquisition, pLDDT, DockQ, predicted $\Delta\Delta G$) не являются экспериментальным affinity / $K_d$ / ELISA / BLI, пока это явно не измерено вне сети. Абзацы ниже — как принцип формулируют конкретные papers, не определение всего класса.

[INTERPRETATION]Pretrained модель кодирует, какие аминокислоты «естественны» в контексте $c$. Inference не семплирует шумовую траекторию: перечисляются mutants, считается scalar score, сортировка. Меняется ranked list, не координаты.

[PAPER]Гипотеза Hie (Fig. 1b): среди evolutionarily plausible substitutions доля high-fitness выше, чем в полном 19×N. Модель не знает антиген. [PAPER] Hie Fig. 1a,b; Introduction no antigen/structure

[PAPER]Рычаг Meier: masked-marginal — маскировать все мутированные позиции, log-odds vs WT; additive по $T$. На validation masked marginal лучше WT/mutant/pseudolikelihood (Table 5). [PAPER] Meier §3 Eq. (1); Table 5

[PAPER]Рычаг Hie (другой!): wild-type-marginal $p(x'_i\mid \mathbf{x})$ без маски сайта, consensus $M=6$ (ESM-1b + пять ESM-1v), порог $\alpha=1$, затем $k$ так, что $|\mathcal{A}|\sim 10$. Authors: WT-marginal строже masked-marginal (Extended Data Fig. 1). Не подставлять Meier Eq. 1 как default ESM-1v efficient evolution. Hie Methods acquiring substitutions; Ext. Data Fig. 1

[PAPER]Рычаг Shanker: conditioner — полный Ab–Ag backbone; score — AR joint $p(x\mid Y)$. Antigen coords улучшают Spearman к DMS $K_D$ (CR9114-H1: 0.17 Ab-only → 0.65 complex). Не ESM-1v sequence-only. [PAPER preprint] Shanker Fig. 2a; Results 0.17 vs 0.65

[PAPER]Предостережение. Δℓ, IF log-likelihood, Spearman к DMS, enrichment «high fitness» percentile, ESM ppl не равны experimental $K_d$ / ELISA / BLI / IC50. Hie и Shanker измеряют BLI и pseudovirus после ranking — это assay, не выход сети. «Implicitly learns binding» (Shanker) — интерпретация корреляции, не energy head ΔG. Shanker Methods: model has no access to fitness; Hie BLI Methods

[PAPER]Не сравнивать 160-fold mAb114 UCA (Hie, Fab $K_d$ ebolavirus GP) с 26-fold Ly-1404 IC50 BQ.1.1 (Shanker preprint) как один benchmark: parent, oracle и antigen разные. Hie Supplementary Table 6; Shanker Fig. 3d

[PAPER]Round-2 combinations — экспериментальный эпистаз, не train-time contrastive. Hie для части Abs вручную выбирает комбинации; Shanker переранжирует $2^{n}-1$ IF likelihood. Hie Methods round 2; Shanker Acquisition Round 2

3. Формальная математическая постановка

Общее для класса

Сначала родовая математика класса (что оптимизируют / что семплируют), общая для реализаций с этим id. Seed-запись: «$\Delta \ell = \log p(s^{mut}\mid c)-\log p(s^{wt}\mid c)$. Высокий $\Delta\ell$ ≠ лучший Kd». Подтипы имеют отдельные уравнения: нельзя переносить diffusion score, UCB, AR NLL, FAPE или MLM $\Delta\ell$ на эту страницу, если это не её train target. Формулы с пометкой tool-specific относятся к одному инструменту. Ниже — разбор papers по подтипам.

[INTERPRETATION]Сначала родовой ranking без новых labels. Затем подтипы: (A) Meier masked-marginal; (B) Hie WT-marginal consensus — tool ESM-1v efficient evolution; (C) Shanker IF $p(x\mid Y)$ — tool structural evolution. Не одна формула на все tools.

[INTERPRETATION]Формулы, которые не принадлежат классу как train target: UCB/EI; EVOLVEpro RF; AR NLL ProGen как generator; FAPE; diffusion score; MLM как infill loss. IF sampling temperature AntiFold — generator соседнего класса. Meier few-shot MSA Transformer (семейные seq на входе) — не protocol Hie.

[INTERPRETATION]Seed one-liner $\Delta\ell=\log p(s^{\mathrm{mut}}\mid c)-\log p(s^{\mathrm{wt}}\mid c)$ — generic sketch; не уравнение default Hie (там отношение маргиналов при полном $\mathbf{x}$) и не AR product Shanker.

[PAPER]Negative / non-binder labels в score: нет. Ranking не требует $y$; $y$ появляется только в wet-lab оценке кампании. Meier zero-shot no supervision; Hie no binding data to model

$$\mathrm{score}_\theta(s^{\mathrm{mut}},s^{\mathrm{wt}},c)=\ell_\theta(s^{\mathrm{mut}}\mid c)-\ell_\theta(s^{\mathrm{wt}}\mid c)$$
[INTERPRETATION] generic. Родовой zero-shot contrast parent vs mutant при conditioner $c$ (sequence и/или structure). $\ell$ — log-probability (маргинал или joint). Семплирования de novo нет: enumerate + argsort. Generic: не checkpoint Hie и не ESM-IF1.
СимволТипОпределение
$s^{mut}$sequenceкандидат с substitutions
$s^{wt}$sequenceparent
$c$contextтокены и/или backbone Y
$\ell_\theta$scalarpretrained log-likelihood; θ frozen
$\theta$paramsне обновляется на assay y

Оптимизации θ нет. Семплируется (выбирается) top-k из конечного списка mutants.

ПостановкаTrain targetSampler/декодерЧто в каталоге
Zero-shot scoring (этот класс)нет task loss; pretrained ℓenumerate 19×pos, rankESM-1v evolution; structural evolution
Few-shot / ALsupervise $f_\phi$ на ytop-N / acquisitionEVOLVEpro
PLM целикомMLM/AR pretraingenerate или embedProGen, IgLM, ESM3, …
Inverse folding как generatorCE $p(s\mid x)$temperature sample FASTAAntiFold, ProteinMPNN
Masked infillinginfill span lossunmask / ILMIgLM, ESM3, EvoDiff-OADM

Подтип A — masked-marginal Δℓ (Meier ESM-1v; foundational, не карточка tools)

[PAPER]Вход маскируется на всех $t\in T$. Additive для multiple mutations. Не WT-marginal Hie. Не catalog-tool equation. Meier §3; input masked at every mutated position

$$\Delta\ell(T)=\sum_{t\in T}\bigl[\log p(x_t=x^{\mathrm{mt}}_t\mid x_{\setminus T})-\log p(x_t=x^{\mathrm{wt}}_t\mid x_{\setminus T})\bigr]$$
[PAPER] Meier [PAPER]; literature-specific. Meier Eq. (1). Коррелирует с DMS function, не калибрует $K_d$ антител. Literature-specific.
СимволТипОпределение
$T$set of positionsмутированные сайты
$x_{\setminus T}$sequenceконтекст; T замаскирован
$x^{mt}_t$AAмутантный residual
$x^{wt}_t$AAдикий тип

Ранжирование вариантов для корреляции с DMS. Не BLI-кампания Hie.

Подтип B — wild-type-marginal consensus (Hie; tool-specific)

[PAPER]$p_j(x'_i\mid\mathbf{x})$ при полном (немаскированном) $\mathbf{x}$. $\alpha=1$. $M=6$: ESM-1b + ESM-1v×5. $k$ под $|\mathcal{A}_{\mathrm{VH}}\cup\mathcal{A}_{\mathrm{VL}}|\approx 10$; extra filter: substitution highest at site for ≥1 model. Tool-specific ESM-1v efficient evolution. CODE NR. Hie Methods; k listed per antibody

$$\mathcal{M}(p_j)=\{(i,x'_i): p_j(x'_i\mid\mathbf{x})/p_j(x_i\mid\mathbf{x})>\alpha\},\quad f(x'_i)=\sum_{j=1}^{M}\mathbf{1}[(i,x'_i)\in\mathcal{M}(p_j)],\quad \mathcal{A}=\{(i,x'_i): f\ge k\}$$
[PAPER] Hie [PAPER]; tool-specific. Hie acquisition. Не Meier masked Eq. 1. Не IF joint. α=1; k user-supplied (Methods: 1–4 по цепям).
СимволТипОпределение
$p_j$MLMj-я модель ансамбля
$\mathbf{x}$WT sequenceполный контекст, сайт не mask
$\alpha$scalar1 в кампании
$k$intпорог голосов; задаёт |A|~10
$M$int6

Выбирается множество singles для BLI round 1.

Подтип C — inverse-folding joint likelihood на комплексе (Shanker; tool-specific)

[PAPER]$Y\in\mathbb{R}^{N\times 3\times 3}$ (HTML: три атома на residue; канон Hsu N/Cα/C vs «β-carbon» HTML — unresolved typesetting). $p(x\mid Y)=\prod_i p(x_i\mid x_{structural evolution. Не masked MLM. Shanker Methods IF description and acquisition

$$p(x\mid Y)=\prod_{i=1}^{N}p(x_i\mid x_{
[PAPER] Shanker [PAPER]; tool-specific. Shanker/Hsu AR IF. Ranking substitutions по этой likelihood vs parent (exact Δ HTML garbled — NR формула разности). Не Hie WT-marginal.
СимволТипОпределение
$Y$R^{N×3×3}backbone coords комплекса
$x$sequenceоцениваемая цепь
$N$intдлина (лимит ESM-1v сравнения 1024)

Семплируется top-k singles, затем top IF-комбинации. θ ESM-IF1 frozen (ckpt 2022-04-10).

4. Представление данных

Общее для класса

Класс читает «Parent sequence and/or complex backbone». Нужно отличать тензор сети (эмбеддинги вариантов, таблица labels $y$, индекс пула / library) от внешнего файла (CSV библиотеки, assay table, fasta parent). Размерности и аугментации без paper/code остаются NR. Дальше — как это кодируют конкретные реализации.

[PAPER]Hie/Meier: токены AA, раздельно VH и VL. Нет pair/distogram, нет time embedding, нет contig. Маска Meier — только scoring positions $T$; Hie scoring без маски сайта. Hie VH/VL separately; Meier mask T

[PAPER]Shanker: sequence tokens + geometric encoder features из $Y$. Комплекс: Ab variable + antigen RBD (PDB 7MMO Ly-1404; 7Y0W SA58). Внешний файл — PDB, не library CSV. Shanker Fig. 3e PDBs; Methods structures Supplementary Table 1

[PAPER]Размерности: ESM-1v 650M (Meier); пять seeds. ESM-1b architecture pointer Rives. Hidden width ESM-1v — NR this pass. $Y$: $N\times 3\times 3$. ESM-1v max length 1024 (Shanker excluded Cas9). Meier 650M; Shanker N×3×3; Cas9 >1024

[INTERPRETATION]Аугментации геометрии: нет rotation-aug в scoring Hie (sequence-only). Shanker: структура фиксирована; не описывают random SE(3) jitter как train (IF уже pretrained).

[PAPER]Kabat regions: Hie/Shanker аннотируют FR/CDR через abYsis post-hoc, не как входной tensor. Hie Methods abYsis 3.4.1 Kabat

[PAPER]Ensemble: Hie шесть forward passes на mutant. Meier DMS — среднее пяти masked-marginal. Не выдумывать batch size кода. Hie six LMs; Meier five-model ensemble

[PAPER]Conditioner antigen sequence: нет у Hie. У Shanker antigen входит как coords (+ sequence of other chains в complex scoring). Hie no antigen; Shanker Ab-Ag vs Ab-only

[PAPER]Library CSV: нет. Перечисление полное 20-алфавит (Shanker ~4300). Hie затем фильтр consensus, не полный experimental 19×N. Shanker all ~4300; Hie filtered A

NRPDB numbering: вход IF — coords; numbering для region labels — внешний abYsis/Kabat, не learned. явного tensor numbering в Methods нет

5. Физическое представление

Общее для класса

Математический объект класса соответствует такому физическому state: «Ranked single substitutions». Обычно это вариант sequence (мутант) плюс, для AL/BO, ещё не измеренный пул. Эмбеддинг PLM — не координаты и не энергия. Глобальный поворот PDB здесь ни при чём: структуры в state нет, пока метод явно не берёт IF-эмбеддинги комплекса. Ниже papers фиксируют, какой вариант они выбрали.

[PAPER]Математический score ↔ правдоподобие токенов при $c$, не ↔ атомы mutational Δ. Assay label $K_d$/IC50 появляется после wet-lab, не в $p_\theta$. Shanker no access to fitness during train/eval of IF

[PAPER]SE(3): Hie/Meier — не применимо (sequence). Shanker/IF — invariant geometric encoder (Hsu GVP); глобальный поворот комплекса не должен менять $p(x\mid Y)$ если модель инвариантна. Перестановка residues ломает chain order. Concat цепей — часть complex input Shanker. Hsu GVP-Transformer via Shanker; Hie sequence-only

[PAPER]Side chains: в Hie state отсутствуют. Shanker HTML: нет side-chain atoms в $Y$ («cannot learn explicit H-bonds/disulfides»). Packing не часть scorer. Shanker Results: no side chain atomic coordinates

[INTERPRETATION]Masked token / WT context ≠ траектория фолдинга и ≠ ΔG. Round-1 single ≠ MD.

[PAPER]Complex $Y$ должен быть credible. Неверный штамм/эпитоп — distribution shift (Shanker всё же скорит CR9114 vs H1/H3 при H5 structure: Spearman 0.65/0.50 — корреляция DMS, не гарантия дизайна). Shanker cross-reactive H5 structure vs H1/H3 data

[PAPER]Hie: 36/76 recommended singles в framework — физически далеки от интерфейса; авторы не утверждают, что модель «видит» epitope. Hie Results 36/76 FR

[INTERPRETATION]Chirality/ω: не в state sequence scorer.

[PAPER]Intermediate ensemble vote $f$ — дискретная агрегация моделей, не физическая энергия. Hie f indicator sum

6. Физико-химический смысл

Общее для класса

Какие физико-химические оси класс вообще может «видеть». Этот класс — в первую очередь experimental $y$ и эволюционную статистику PLM, если encoder frozen. H-bonds, электростатика, растворитель, энтропия и experimental affinity отсутствуют, пока нет явной energy / assay головы: модель тогда не считает $\Delta G$. Таблица ниже — как конкретные методы кодируют эти оси; строка про один tool не обобщается на класс.

[PAPER]Нет energy head. «Evolutionary plausibility» и «fold into backbone» — статистические priors, не ΔG. Hie evolutionary plausibility; Shanker fold into backbone

Признак или операция моделиФизико-химическая интерпретацияПрямо / косвенно / внешнеВажное ограничение
identity AAзамена vs parentпрямо (перечисление токенов)additive/single-site игнорирует эпистаз до round 2 assay
backbone / frames / torsionsостов комплексапрямо только у Shanker (Y); у Hie не представленанужен правильный PDB; нет side chains
antigen / hotspot coordsинтерфейсShanker — весь antigen backbone; Hie — не представленане epitope tensor RFantibody; HTML IF без H-bond chemistry
H-bonds / electrostatics / solvation / entropyфизика связыванияне представленынельзя сказать, что модель считает ΔG
evolutionary statisticsUniRef / CATH-AF structuresкосвенно через pretrain θHie: мало Ab в UniRef; AbLang/Sapiens проиграли general PLM на трёх UCA
experimental y (Kd, IC50, ELISA)измеренная функцияне в score; только post-hoc assaySpearman к DMS ≠ prospective Kd

7. Что обучается

Общее для класса

Общий train target класса: «Обычно нет task-specific training; используется pretrained LM/IF». Нужно назвать, какие модули обучаются, какие frozen (PLM, MSA, RoseTTAFold trunk), и есть ли в loss negative / non-binder / affinity labels. Если в постановке класса labels нет — ответ «нет», даже если кто-то доучивает голову в приложении. Fine-tune vs pretrain различается объектом (PDB identities, SAbDab, assay $y$), не маркетингом. Детали сплитов — в подразделах papers.

[PAPER]На шаге scoring ничего не учится. θ = pretrained ESM-1v/1b или ESM-IF1. Frozen. Meier no gradient at inference; Shanker zero-shot

[PAPER]Pretrain Meier: MLM на UniRef90 2020-03 ~98M; 650M; 5 seeds; ppl 7.29 holdout. Optional family-spiked fine-tune — не protocol Hie antibody campaign. Meier ESM-1v paragraph; spiked fine-tune §

[PAPER]ESM-1b: UniRef50 2018-03 ~27M (Hie). Не путать с ESM-2 15B EVOLVEpro embeddings. Hie Methods ESM-1b UniRef50

[PAPER]ESM-IF1: sequence recovery на 12M AF2 structures + CATH (Hsu pointer); Shanker ckpt 2022-04-10. Train на single-chain; inference на multimeric complex — zero-shot transfer, не fine-tune на Ab–Ag. Shanker trained on single-chain; checkpoint date

[PAPER]Loss класса scoring: нет. Negative/non-binder/contrastive/affinity в Δℓ: нет. Meier unsupervised; Hie no task-specific supervision

[PAPER]Hie round 2 не fine-tune LM. Shanker round 2 пересчитывает IF likelihood комбинаций — всё ещё frozen θ. Hie/Shanker Methods round 2

[MATRIX]AntiFold fine-tune SAbDab+OAS — другой tool и architecture_id; не приписывать к structural-evolution.

[PAPER]Baselines Hie (abYsis, UniRef90 MSA frequencies, AbLang, Sapiens) — отдельные scorers, не θ кампании. Hie comparison sequence-based methods

[INTERPRETATION]Не обучается AF/docking/Rosetta. Не FAPE.

8. Прямой проход и information flow

Общее для класса

Прямой проход класса: пул или список мутаций → (опционально encoder) → суррогат/scorer → выбор batch или ранжирование → внешний assay → обновление данных. Чужие блоки (pack, AlphaFold, docking, ELISA) нельзя прятать внутрь «одной сети». Схема ниже, если есть, — оригинал по прочитанным источникам, не копипаст figure. Затем — где у tools generator, а где evaluator.

[PAPER]Порядок Hie: WT seq → все singles VH, все singles VL → 6 LM likelihood ratios → $\mathcal{A}$ → экспрессия → BLI. Sequence только; geometry нет. Hie Methods

[PAPER]Порядок Meier DMS: mask T → Eq. 1 → Spearman vs assay table. Нет proposal workflow обязательно. Meier Fig. 1 task

[PAPER]Порядок Shanker campaign: PDB complex → score ~4300 → top 10 unique/chain → pseudovirus IC50 → combine beneficial → IF rescore combos → assay. Geometry с шага 1; sequence mutant подставляется в AR score. Shanker Acquisition Methods

[PAPER]Не прятать ProteinMPNN/AF внутрь ESM-1v. Shanker не предсказывает структуру — $Y$ дан. Shanker uses supplied backbone

[PAPER]Tm, polyspecificity, NetMHCpan — evaluators Hie post-hoc, не scorer. Hie Additional characterization

[PAPER]DMS Livesey–Marsh / Markin — in silico oracle для enrichment (Hie Fig. 4; Shanker Fig. 1d), не wet-lab antibody $K_d$. Hie Fig. 4; Shanker 10 proteins DMS

[PAPER]Experiment box: BLI, Fab $K_d$, IgG apparent $K_d$, IC50. Только они устанавливают affinity/function. Hie/Shanker assay Methods

[INTERPRETATION]Нет recycle AF, нет beam, нет docking в forward pass.

flowchart TD
  PAR["Parent sequence and/or complex PDB"] --> ENUM["Enumerate singles 19 x positions"]
  ENUM --> HIE["SCORER Hie: WT-marginal 6 LMs consensus"]
  ENUM --> MEI["SCORER Meier: masked-marginal ensemble"]
  ENUM --> IF["SCORER Shanker: ESM-IF1 p(x|Y) on complex"]
  HIE --> RANK["Ranked substitutions — not Kd"]
  MEI --> RANK
  IF --> RANK
  RANK --> PICK["Top-k / unique residues"]
  PICK --> EXP["EXPERIMENT: BLI / pseudovirus / DMS oracle"]
  EXP --> R2["Optional round-2 combinations"]
  R2 --> IF
  R2 --> EXP
  subgraph scorerblk ["Scorer frozen θ"]
    HIE
    MEI
    IF
  end
  subgraph expblk ["Experiment / evaluator"]
    EXP
  end
Схема класса по Meier §3, Hie Methods, Shanker Methods — не копипаст Fig. 1. Generator de novo отсутствует; scorer отделён от BLI/IC50. Источник схемы: INTERPRETATION

9. Training procedure

Общее для класса

У класса нет единого корпуса. Типичные данные: набор измеренных вариантов parent-а и, отдельно, pretrain корпуса PLM, если encoder не с нуля. Split и leakage — свойства датасета реализации. Не выводить split из README. Не смешивать in silico designability с prospective wet-lab. Ниже каждый paper описывает свой корпус; нет цифры = NR.

[PAPER]Scoring pass не имеет split по антителам кампании. Pretrain Meier: UniRef90 2020-03; holdout ppl 7.29. Hie: те же веса, датасеты до открытия SARS-CoV-2 Abs кампании (авторы: нет disease-specific leakage в UniRef на эти Abs). Hie datasets precede SARS-CoV-2 antibodies; Meier ppl 7.29

[PAPER]ESM-IF1 train: Hsu (pointer) AF2-predicted + experimental; Shanker не retrains. Leakage: scoring Ab–Ag PDB, на которых IF не учился как complexes — claimed generalization, не измеренный train-overlap PDB IDs (NR). Shanker single-chain training; PDB IDs 7MMO/7Y0W as input

[PAPER]Batching scoring: NR в Hie besides <1 s/antibody. Meier: batch inference V100 jobs <1 h vs pretrain 6 days × 64 V100 — это pretrain cost, не scoring campaign. Hie runtime; Meier training 64 V100

NRTeacher forcing: IF AR при оценке полной последовательности (teacher-forced WT prefix + mutant token) — деталь decode Hsu; Shanker HTML «autoregressive as chain rule». Exact teacher-forcing vs full-seq logp API — CODE NR.

[PAPER]Симуляция: Hie Fig. 4 / Shanker Fig. 1d — DMS already collected (Livesey–Marsh). Prospective: Hie seven Abs BLI; Shanker Ly-1404/SA58. Не смешивать Spearman DMS с fold-change IC50. Hie Fig. 4 vs Fig. 2; Shanker Fig. 1d vs Fig. 3

[PAPER]Hie antibody split: нет ML split; семь выбранных клинических/UCA серий (Supplementary Table 1). Не 80/10/10. Hie seven antibodies list

NRFilters resolution PDB: Shanker uses deposited complexes; Å cutoff NR.

[INTERPRETATION]Self-conditioning: нет.

[INTERPRETATION]Не выводить hyperparams из GitHub README.

10. Inference and generation

Общее для класса

Общий inference класса: «Enumerate 19 substitutions × positions, score, take top-k». Старт — не «шум из $\mathcal{N}(0,I)$», а библиотека / список мутаций / уже посчитанные эмбеддинги. Pack / relax / AF / likelihood rerank помечаются как evaluator, не generator. Чего в классе нет (beam, recycle, assay-in-the-loop), пока tool явно не добавляет, — тоже общее свойство. Число шагов $T$, temperature, $k$ — tool-specific, если не оговорено.

[PAPER]Старт Hie: одна WT VH и одна WT VL. Старт Shanker: WT seq + PDB complex. Старт Meier: WT seq (+ optional MSA for MSA Transformer few-shot — не Hie). Hie single starting sequence; Shanker structure+seq

[PAPER]Алгоритм: полный enumeration singles (алфавит 20, исключая WT). Hie: consensus + k. Shanker: sort IF likelihood, top 10 unique positions/chain (20 singles round 1). Temperature/top-k softmax не используются в ranking (это не decoder sampling). Hie |A|~10; Shanker top ten unique residues each chain

[PAPER]Hie k: MEDI8852 2/2; UCA 2/2; mAb114 4/4; mAb114 UCA 2/2; S309 VH 2 VL 1; REGN10987 2/2; C143 2/2. [PAPER] Hie Methods k values

[PAPER]Post-hoc: expression, BLI, Tm, PSP polyspecificity, NetMHC, neutralization — experiment/evaluator. Не generator. Hie Methods assays

[INTERPRETATION]Чего нет: beam, AF recycle, epitope clamp, classifier-free guidance, UCB.

[PAPER]Round 2 Hie: recombine affinity-enhancing (or affinity-preserving for S309/REGN10987); не все Abs — exhaustive combinations (MEDI8852 да; другие — manual). [PAPER] Hie Methods second round

[PAPER]Round 2 Shanker: up to four 2-mutation chain combos; IF ranks all $2^{n}-1$ (Ly-1404 VH 8 beneficial → 255); top five; plus up to two dual-chain. Totals 31 and 25 variants. [PAPER preprint] Shanker Acquisition; 31 Ly-1404, 25 SA58

[PAPER]Hie compute: <1 s per antibody GPU; 742 Thera-SAbDab ~3 min; EPYC 7502P + A40 48GB. [PAPER] Shanker wall-clock scoring — NR. Hie Computational efficiency

11. Conditioning

Общее для класса

Что класс умеет зажимать по постановке: «Sequence context or complex coordinates». пул $\mathcal{X}$, разрешённые позиции, бюджет $k$, parent — не epitope tensor и не CFG, пока их нет. Contig, mask, motif, hotspot и library — разные объекты. Ниже papers перечисляют свой conditioner без переноса с соседа.

[PAPER]Hie: только parent sequence. Нет antigen, structure, ELISA labels, CATH, hotspot map. Hie: without antigen, binding, homologs, structure

[PAPER]Shanker: $Y$ variable regions both chains + RBD; settings ablation Ab-only / VH-only / Ab–Ag. Лучший retrospective — полный комплекс. Shanker Fig. 2 three settings

NRНет classifier-free guidance. Нет contig RFdiffusion.

[INTERPRETATION]Не приписывать epitope tensor / measured_var. Library $\mathcal{X}$ = enumerated mutants, не experimental combinatorial library CSV.

[PAPER]Meier few-shot: extra MSA sequences into MSA Transformer — другой режим, не catalog Hie. Meier §3.1 few-shot MSA Transformer

[PAPER]Hie scoring VH и VL независимо (два conditioner sequence). Не paired transformer. Hie Methods separately

[PAPER]Shanker combinatorials: conditioner тот же $Y$; меняется только $x$. Shanker joint likelihood all positions

[PAPER]Masking CDR-only: не default Hie/Shanker (unbiased all variable domain). AntiFold region mask — другой tool. Hie ~half FR; Shanker all regions

12. Вычислительная сложность

Общее для класса

Драйверы стоимости класса: «Positions × 19; ensemble members». Сравнение «дешевле diffusion» допустимо только если paper дал NFE/steps; иначе это INTERPRETATION или молчание. GPU hours / wall-clock без источника — NR. Цифры одной кампании не становятся сложностью всего класса.

[INTERPRETATION]Драйверы: $N$ residues × 19 substitutions × $M$ ensemble forwards (Hie $M=6$) или один IF AR pass на mutant (Shanker). Attention $O(N^2)$ внутри LM/IF.

[PAPER]Hie: линейно по числу Abs; 742 in ~3 min на A40. [PAPER] Не «дешевле diffusion» без NFE-сравнения в paper — не писать. Hie 742 Thera-SAbDab ~3 min

[PAPER]Assay latency доминирует: 8–14 variants round 1, 1–11 round 2 (Hie); 20 singles then combos (Shanker). #rounds = 2 laboratory, не ML epochs. Hie 8–14 and 1–11; Shanker 20 singles

[PAPER]GPU scoring cheap vs expression. Meier pretrain 64×V100×6 days — не cost пользователя scoring. Meier 6 days 64 V100

[PAPER]Combinatorial round 2: $2^{n}$ IF scores (255 при n=8) — всё ещё tiny vs 20^N. Shanker 255 candidate sequences

NRShanker GPU hours — NR.

13. Преимущества

Общее для класса

Преимущества должны следовать из механизма класса (цикл с малым бюджетом, локальный граф, joint prior…), не из маркетинга. Seed-список: «Не нужны labels; Быстрый shortlist». Любое количественное число ниже обязано иметь PAPER/SI locator и не обобщается с одного белка на класс. Это не гарантия стабильности, аффинности или экспрессии.

[PAPER]Из постановки: не нужны $y$ и (у Hie) не нужна структура — низкий порог входа. Hie end user single WT sequence

[PAPER]Hie: семь Abs, ≤20 variants, два раунда; 71–100% round-1 Fab sub-μM; 14–71% ≥1.1-fold $K_d$; all but REGN10987 ≥2-fold. Clinically relevant: MEDI8852 H7 HK17 Fab 0.21→0.03 nM (7-fold); mAb114 GP 3.4-fold; C143 neutralization 32-fold Beta (VL G53V), 19-fold D614G (VL T33N-G53V); mAb114 UCA 160-fold Fab $K_d$. [PAPER] Не обобщать на все Abs. Hie Results; Fig. 3b; Supp. Tables

[PAPER]Hie 122 variants, 121 expressed. Tm>70 °C tested affinity-enhancing; 21/31 higher Tm than WT. Polyspecificity без существенного сдвига (Fig. 3a). [PAPER] Hie expression; Tm; PSP

[PAPER]Shanker preprint: 35%/30% singles improve IC50 (≥1.1) vs encoded strain; all 15 multi-mut round 2 better than WT; Ly-1404 7-mut VH 26-fold IC50 BQ.1.1 (31 variants); SA58 11-fold (25 variants); $K_{D,\mathrm{app}}$ XBB.1.5 up to 37-fold. Science abstract «25-fold» — не page-sync. [PAPER preprint] Shanker Fig. 3; Fig. 4c

[PAPER]Retrospective: IF Spearman CR9114-H1 0.65 vs ESM-1v 0.08 при Ab–Ag input — DMS $K_D$ library, не Hie campaign. [PAPER preprint] Shanker Fig. 2a

[INTERPRETATION]Явно: fold-change на одном parent/antigen не гарантия стабильности, экспрессии, affinity к другому epitope. Likelihood ≠ $K_d$.

[PAPER]Hie vs AbLang/Sapiens/abYsis на трёх UCA avidity: general PLM лучше (Supp. Table 12). Не сравнивать с EVOLVEpro hit rate. Hie Supplementary Table 12

[PAPER]Framework mutations: механизм «не только CDR» следует из unbiased enumeration, не из docking. Hie 36/76 FR; Shanker F24Y V90S FR

14. Ограничения

Общее для класса

Ограничения класса по осям: математика представления, физика/химия, bias данных, обобщение, deployment. Seed-список: «Не epistasis; Не calibrated affinity». Не дублировать преимущества с обратным знаком без новой информации. Ниже papers добавляют конкретные дыры (SI, split, gated weights).

[PAPER]Математика: additive Δℓ / single-site round 1 не моделирует эпистаз; WT- vs masked-marginal — разные калибровки; IF AR teacher-forcing details NR. Meier additive; Hie Ext. Data Fig. 1

[PAPER]Представление: Hie слеп к геометрии интерфейса; Shanker слеп к side-chain chemistry; оба не multi-objective optimizer. catalog limitations; Shanker no side chains

[PAPER]Физика: нет ΔG head; Tm не объясняет все affinity gains (MEDI8852 Tm down). [PAPER] Hie Tm vs affinity paragraph

[PAPER]Данные: UniRef мало Abs; SARS-CoV-2 Abs после cutoff train — claimed, не audit leakage. C143/REGN в UniRef как sequences — NR beyond authors' statement. Hie few thousand antibody-related UniRef

[PAPER]Обобщение: REGN10987 слабее (1.3-fold screening antigen). Highly matured Abs — меньший fold-change. Unnatural selection pressures — Discussion Hie. Hie REGN10987; Discussion fitness peak

[INTERPRETATION]Deployment: CODE unaudited; Science vs preprint numbers; не catalog antibody de novo. Shanker требует PDB.

15. Failure modes

Общее для класса

Типичные ошибки пользователя и модели для этого класса: пул без хорошего binder, переобучение на шум assay, greedy top-$N$ без exploration, $\hat y$ как будто $K_d$. Seed-список: «Over-trusting evolutionary plausibility». Это не общие «может не сработать». Дальше — как эти режимы проявлялись в конкретных работах каталога.

[INTERPRETATION]Конкретные ошибки.

16. Реализации в инструментах

Общее для класса

Реализации класса в каталоге определяются reverse index architecture_id, а не похожестью названия. Колонки таблицы: generic architecture vs tool-specific. Непрочитанный tool — строка с NR, без выдуманных уравнений. Foundational methods вне карточек tools можно указать явно. Неравные кампании не ставят в одну колонку «успех». Список ссылок на tools повторяется служебным блоком после нумерованных разделов.

[MATRIX]Reverse index: ровно два catalog tools. Остальное — литература / путаница. Неравные oracles не в одной колонке успеха.

ToolGeneric architectureTool-specific implementationImportant difference
ESM-1v efficient evolutionzero-shot sequence likelihood rankingHie WT-marginal, α=1, ESM-1b+5×ESM-1v, k~10, two BLI rounds; CODE NRНет структуры/антигена; не Meier Eq. 1; не EVOLVEpro
Structural evolutionzero-shot IF likelihood rankingESM-IF1 on Ab–Ag $Y$; top-10 unique/chain; 31+25 variants preprint; CODE NR; Science body NRНужен complex PDB; joint AR $p(x\mid Y)$; также architecture_id inverse-folding
MethodGeneric architectureImplementationImportant difference
Meier ESM-1v (не карточка tools)masked-marginal ΔℓEq. 1, 41 DMS Spearman, 650M×5Foundational scorer; Hie — другой маргинал
AntiFoldIF generator + optional rankFT ESM-IF1 Abs; нет zero-shot-mutation-scoring idSampling FASTA; DMS correlation ≠ Hie/Shanker campaign
EVOLVEprofew-shotfrozen ESM-2 + RFНужны labels; incompatible comparison
AbLang / Sapiens / abYsissequence baselinesHie Supp. Table 12Не catalog tools

17. Где применимо и где не применимо

Общее для класса

Класс уместен для задач: single-mutation-proposal; affinity-maturation. Не уместен: few-shot-active-learning. Ссылки на workflows имеют смысл, только если стадия реально вызывает этот класс как generator/scorer, а не как соседний модуль. Чем пользоваться вместо запрещённой задачи — соседний architecture / workflow, не «тот же GNN». Ниже — разбор papers и явные запреты, затем служебные списки каталога.

[MATRIX]Применимо: single-mutation proposal, affinity maturation при малом бюджете; workflow zero-shot mutation. Sequence-only → ESM-1v efficient evolution; есть complex → structural evolution.

[MATRIX]Запрет: few-shot active learning как замена, если labels уже есть — EVOLVEpro. De novo antibody CDR 3D — frame diffusion/RFantibody или joint diffusion. Humanization FR redesign как diffusion — HuDiff. Inverse folding redesign маски — AntiFold.

[INTERPRETATION]Запрет: multi-objective Pareto на library (Makowski) этим scorer'ом. Combinatorial 19^k без round-2 strategy.

[PAPER]Нельзя решать codon/CHO/secretion. Нельзя выдавать NetMHC count за immunogenicity trial. Hie HLA computational proxy

18. Методологические источники

Общее для класса

Этот раздел — какие работы определяют класс и какие карточки papers каталога к нему привязаны, что прочитано vs pointer-only. Идентификаторы каталога: paper-esm-1v-efficient-evolution; paper-structural-evolution. Это не библиография «всего по теме». Таблица происхождения источников, paywall и статус сверки вынесены в конец страницы, чтобы не заслонять определение класса.

[PAPER]Foundational scoring: Meier bioRxiv (прочитан HTML §3). Catalog: Hie Nat. Biotechnol. journal HTML (прочитан Methods+Results); Shanker bioRxiv HTML (прочитан Methods+campaign). Hsu ESM-IF1 — pointer. Science adk8946 body — inaccessible this pass.

[MATRIX]Catalog paper pages: paper-esm-1v-efficient-evolution, paper-structural-evolution. CODE repos — pointer-only.

[INTERPRETATION]Не библиография всего variant-effect: DeepSequence, EVMutation — Meier baselines. Livesey–Marsh — DMS meta, не architecture. AntiFold analysis — соседняя IF-страница.

Инструменты, использующие подход

Efficient evolution with ESM-1v, Structural evolution (ESM-IF1 complex)

Где применимо

Предложение single mutations, Affinity maturation

Где не стоит использовать

Few-shot active learning

Papers каталога

Efficient evolution of human antibodies from general protein language models, Unsupervised evolution of protein and antibody complexes with a structure-informed language model

Подтипы класса

Статус сверки источников

partially verified Последняя сверка источников: 2026-08-27. Класс — scorer substitutions без новых assay labels, не few-shot surrogate и не de novo topology. Прочитаны: Meier et al. ESM-1v bioRxiv 10.1101/2021.07.09.450648 v2 HTML Method §3 masked-marginal (preprint; journal pagination не сличена); Hie et al. Efficient evolution Nat. Biotechnol. HTML Methods+Results (journal 10.1038/s41587-023-01763-2; wild-type-marginal consensus, не Meier Eq. 1); Shanker et al. bioRxiv 10.1101/2023.12.19.572475 HTML Methods+campaign (preprint; Science 10.1126/science.adk8946 HTML Cloudflare — journal body не page-sync; abstract Science: «up to 25-fold» neutralization vs preprint 26-fold). CODE brianhie/efficient-evolution, varun-shanker/structural-evolution, facebookresearch/esm — не line-audit (commit NR). Hie Supplementary Tables 1–12 numeric cells HTML частично; Science SI NR. AntiFold не имеет этого architecture_id.

Недоступные или неполные источники

ИсточникПочему недоступенЧто использовано вместо
Meier et al. journal version (if any beyond bioRxiv) + Appendix A scoring-scheme proofsКанон — bioRxiv HTML §3; appendix derivations не построчноEq. (1) masked-marginal + additive T; Table 5 WT/mutant/pseudolikelihood хуже — основной HTML
Hie Nat. Biotechnol. Supplementary Tables 2–12 / Data 1 per-Kd cellsHTML отдаёт часть таблиц без полной матрицы KdCampaign numbers из Main/Fig. 2–3 prose; k per antibody — Methods
Shanker Science 10.1126/science.adk8946 full HTML/SICloudflare; в этом проходе канон — bioRxiv HTMLMethods scoring, 31/25 variants, 26-fold IC50, 37-fold KD,app — preprint; Science-only 25-fold abstract не сливать с 26-fold
brianhie/efficient-evolution commit SHA + scoring functionsCODE unaudited this passWT-marginal, α=1, six-model consensus, k — Nature Methods
varun-shanker/structural-evolution commit SHACODE unauditedESM-IF1 ckpt 2022-04-10, top-10 unique residues/chain — bioRxiv Methods
facebookresearch/esm ESM-1v / ESM-IF1 score_sequence symbolsне line-auditMeier/Hsu via papers; CLI flags — NR

Происхождение источников

МеткаИсточникСсылкаПримечание
[PAPER]Meier J. et al. Language models enable zero-shot prediction of the effects of mutations on protein function. bioRxiv 10.1101/2021.07.09.450648https://www.biorxiv.org/content/10.1101/2021.07.09.450648v2.fullPreprint: ESM-1v 650M×5, UniRef90 2020-03, masked-marginal Eq. 1, 41 DMS Spearman; не catalog tool
[PAPER]Hie B.L. et al. Efficient evolution of human antibodies from general protein language models. Nat. Biotechnol. (2023) 10.1038/s41587-023-01763-2https://www.nature.com/articles/s41587-023-01763-2Journal: WT-marginal consensus ESM-1b+ESM-1v; seven IgG; BLI/pseudovirus; tool esm-1v-efficient-evolution
[PAPER]Shanker V.R., Bruun T.U.J., Hie B.L., Kim P.S. Inverse folding of protein complexes… bioRxiv 10.1101/2023.12.19.572475https://www.biorxiv.org/content/10.1101/2023.12.19.572475v1.fullPreprint of Science adk8946: ESM-IF1 on Ab–Ag complex; Ly-1404/SA58; не сливать 26- vs 25-fold
[PAPER]Hsu et al. Learning inverse folding from millions of predicted structures. ICML 2022 / ESM-IF1https://doi.org/10.48550/arXiv.2206.12094Pointer: GVP-Transformer p(x|Y); Shanker uses checkpoint 2022-04-10; full Hsu не close-read this pass
[MATRIX]catalog reverse index architecture_id zero-shot-mutation-scoringNResm-1v-efficient-evolution, structural-evolution — only

Методологические источники

  1. [1] Meier et al. ESM-1v zero-shot mutation effects. bioRxiv 10.1101/2021.07.09.450648. · DOI · источник
  2. [2] Hie et al. Efficient evolution of human antibodies from general protein language models. Nat. Biotechnol. 10.1038/s41587-023-01763-2. · DOI · источник
  3. [3] Shanker et al. Inverse folding of protein complexes enables unsupervised antibody evolution. bioRxiv 10.1101/2023.12.19.572475. · DOI · источник
  4. [4] Shanker et al. Science 10.1126/science.adk8946 (journal; body not page-synced this pass). · DOI · источник
  5. [5] Hsu et al. ESM-IF1. ICML 2022 / arXiv:2206.12094. · DOI · источник

Нерешённые научные вопросы

  • brianhie/efficient-evolution and varun-shanker/structural-evolution commit SHA / function names
  • Science adk8946 SI and 25-fold vs preprint 26-fold body reconciliation
  • Shanker HTML Y atoms α/β-carbon vs Hsu N-Cα-C typesetting
  • Exact IF Δ formula mutant vs WT (HTML garbled); teacher-forcing API
  • Hie Supplementary Tables full Kd matrices
  • Meier journal pagination / NeurIPS camera-ready if any
  • ESM-1v hidden size / layers beyond 650M
  • PDB train-overlap of 7MMO/7Y0W with ESM-IF1 AF2 corpus
  • AntiFold DMS Spearman numbers not copied here (wrong architecture_id)