Zero-shot mutation scoring
Zero-shot оценка мутаций. Established English term: Zero-shot mutation scoring.
Что это за класс
Определение класса — общее для всех papers и tools с этим architecture_id. Это не карточка одной нейросети. После каждого нумерованного заголовка сначала идёт блок «Общее для класса», затем разбор конкретных статей, как раньше.
Zero-shot оценка мутаций ранжирует substitutions без новых экспериментальных labels. Сравнивают, насколько мутант «естественен» для pretrained PLM или совместим с backbone у inverse folding: типично $\Delta\ell=\log p(s^{\mathrm{mut}}\mid c)-\log p(s^{\mathrm{wt}}\mid c)$.
Это скоринг уже заданных точечных замен, не генерация библиотеки с нуля и не обучение на вашем ELISA. Высокий $\Delta\ell$ значит «модель меньше удивлена», не «лучше $K_d$». Эпистаз и дальние эффекты обычно не поймать.
Что на выходе. Ранжированный список single substitutions (19 × позиции). Ensemble моделей может стабилизировать ранг, не калибруя affinity.
Чего класс не делает. Не few-shot (нет $D_t$). Не de novo. Не замена BLI. Переоценка evolutionary plausibility — главный failure mode.
Каталог: ESM-1v masked-marginal (Meier) и кампании Hie / Shanker (IF Δℓ на комплексе). Не смешивать masked-marginal и wild-type-marginal без оговорки.
Сначала общая формула скоринга, затем различия протоколов papers.
Zero-shot mutation scoring — scorer (иногда mutation-proposal workflow): ранжирует substitutions parent'а по pretrained likelihood без новых $y$. Это не generator новой topology, не few-shot surrogate на ELISA и не affinity predictor. Masked-marginal Meier, wild-type-marginal Hie и IF $p(x\mid Y)$ Shanker — разные формулы.
1. Область определения
Общее для класса
Этот пункт фиксирует роль класса в пайплайне и границу с соседями. Класс стоит вокруг эксперимента: он выбирает или ранжирует варианты, а не рисует новый fold. Краткая seed-формула: «Без новых experimental labels модель ранжирует substitutions по тому, насколько они «естественны» для PLM или совместимы с backbone». Что метод выдаёт или оценивает: «Ranked single substitutions». Вход: «Parent sequence and/or complex backbone». Задачи каталога, которые класс закрывает: single-mutation-proposal; affinity-maturation. Явно не для: few-shot-active-learning. Дальше по разделу — какие tools имеют этот architecture_id и какие постановки нельзя смешивать.
[INTERPRETATION]Роль — scorer pretrained density $p_\theta(s\mid c)$ на мутационном перечислении. Workflow каталога превращает ranking в mutation proposal, но train target класса нет: θ заморожен. Это не sequential design loop с обновлением $f_\phi$ по $y$ и не geometric inductive bias как определение класса.
[PAPER]Scored state — discrete substitutions относительно parent: обычно 19 альтернатив × позиции VH/VL (или белка). Generated object каталога — ranked list, не новая складка. Conditioner $c$: последовательность (Meier/Hie) или backbone/complex coords (Shanker). Intermediate embedding ≠ энергия. Hie Methods all single-residue substitutions VH/VL; Shanker ~4300 singles
[MATRIX]Задачи: single-mutation proposal, affinity maturation как zero-shot-then-assay. Workflow: zero-shot mutation. Seed исключает few-shot active learning: там нужны labels. architectures/zero-shot-mutation-scoring.yaml applicable / not_for
[PAPER]Это не few-shot mutation optimization / active learning: EVOLVEpro учит $f_\phi$ на assay. Hie/Shanker не обновляют веса по BLI между раундами — round 2 комбинирует уже измеренные singles. Hie two laboratory rounds; Jiang EVOLVEpro — соседний класс
[INTERPRETATION]Это не protein language models целиком: PLM — семейство ролей (AR, MLM, frozen $E$, Δℓ). Здесь только роль scorer. ESM-1v efficient evolution несёт оба id.
[MATRIX]Это не inverse folding как generator $p(s\mid x)$ для redesign маски. Shanker использует IF likelihood для ranking при заданном complex — пересечение id у structural evolution, но канон этой страницы — zero-shot scoring, не sampling FASTA. AntiFold — IF generator, нет этого architecture_id.
[INTERPRETATION]Это не masked-token infilling: infill семплирует span. Δℓ не порождает de novo CDR library. Не sequence diffusion.
[MATRIX]Catalog tools: ESM-1v efficient evolution, structural evolution. Путают с EVOLVEpro (few-shot), AntiFold (IF sample), ProteinMPNN, AbLang/Sapiens (Hie baseline, не catalog tools).
2. Интуитивный принцип
Общее для класса
Общий механизм Zero-shot mutation scoring: что меняется за один шаг inference и за счёт какого inductive bias метод может работать. «Без новых experimental labels модель ранжирует substitutions по тому, насколько они «естественны» для PLM или совместимы с backbone». Главный эмпирический рычаг класса — бюджет раунда, состав пула, правило acquisition, шум assay; это не «магия одной статьи». Для Zero-shot mutation scoring внутренние числа модели (likelihood, score, acquisition, pLDDT, DockQ, predicted $\Delta\Delta G$) не являются экспериментальным affinity / $K_d$ / ELISA / BLI, пока это явно не измерено вне сети. Абзацы ниже — как принцип формулируют конкретные papers, не определение всего класса.
[INTERPRETATION]Pretrained модель кодирует, какие аминокислоты «естественны» в контексте $c$. Inference не семплирует шумовую траекторию: перечисляются mutants, считается scalar score, сортировка. Меняется ranked list, не координаты.
[PAPER]Гипотеза Hie (Fig. 1b): среди evolutionarily plausible substitutions доля high-fitness выше, чем в полном 19×N. Модель не знает антиген. [PAPER] Hie Fig. 1a,b; Introduction no antigen/structure
[PAPER]Рычаг Meier: masked-marginal — маскировать все мутированные позиции, log-odds vs WT; additive по $T$. На validation masked marginal лучше WT/mutant/pseudolikelihood (Table 5). [PAPER] Meier §3 Eq. (1); Table 5
[PAPER]Рычаг Hie (другой!): wild-type-marginal $p(x'_i\mid \mathbf{x})$ без маски сайта, consensus $M=6$ (ESM-1b + пять ESM-1v), порог $\alpha=1$, затем $k$ так, что $|\mathcal{A}|\sim 10$. Authors: WT-marginal строже masked-marginal (Extended Data Fig. 1). Не подставлять Meier Eq. 1 как default ESM-1v efficient evolution. Hie Methods acquiring substitutions; Ext. Data Fig. 1
[PAPER]Рычаг Shanker: conditioner — полный Ab–Ag backbone; score — AR joint $p(x\mid Y)$. Antigen coords улучшают Spearman к DMS $K_D$ (CR9114-H1: 0.17 Ab-only → 0.65 complex). Не ESM-1v sequence-only. [PAPER preprint] Shanker Fig. 2a; Results 0.17 vs 0.65
[PAPER]Предостережение. Δℓ, IF log-likelihood, Spearman к DMS, enrichment «high fitness» percentile, ESM ppl не равны experimental $K_d$ / ELISA / BLI / IC50. Hie и Shanker измеряют BLI и pseudovirus после ranking — это assay, не выход сети. «Implicitly learns binding» (Shanker) — интерпретация корреляции, не energy head ΔG. Shanker Methods: model has no access to fitness; Hie BLI Methods
[PAPER]Не сравнивать 160-fold mAb114 UCA (Hie, Fab $K_d$ ebolavirus GP) с 26-fold Ly-1404 IC50 BQ.1.1 (Shanker preprint) как один benchmark: parent, oracle и antigen разные. Hie Supplementary Table 6; Shanker Fig. 3d
[PAPER]Round-2 combinations — экспериментальный эпистаз, не train-time contrastive. Hie для части Abs вручную выбирает комбинации; Shanker переранжирует $2^{n}-1$ IF likelihood. Hie Methods round 2; Shanker Acquisition Round 2
3. Формальная математическая постановка
Общее для класса
Сначала родовая математика класса (что оптимизируют / что семплируют), общая для реализаций с этим id. Seed-запись: «$\Delta \ell = \log p(s^{mut}\mid c)-\log p(s^{wt}\mid c)$. Высокий $\Delta\ell$ ≠ лучший Kd». Подтипы имеют отдельные уравнения: нельзя переносить diffusion score, UCB, AR NLL, FAPE или MLM $\Delta\ell$ на эту страницу, если это не её train target. Формулы с пометкой tool-specific относятся к одному инструменту. Ниже — разбор papers по подтипам.
[INTERPRETATION]Сначала родовой ranking без новых labels. Затем подтипы: (A) Meier masked-marginal; (B) Hie WT-marginal consensus — tool ESM-1v efficient evolution; (C) Shanker IF $p(x\mid Y)$ — tool structural evolution. Не одна формула на все tools.
[INTERPRETATION]Формулы, которые не принадлежат классу как train target: UCB/EI; EVOLVEpro RF; AR NLL ProGen как generator; FAPE; diffusion score; MLM как infill loss. IF sampling temperature AntiFold — generator соседнего класса. Meier few-shot MSA Transformer (семейные seq на входе) — не protocol Hie.
[INTERPRETATION]Seed one-liner $\Delta\ell=\log p(s^{\mathrm{mut}}\mid c)-\log p(s^{\mathrm{wt}}\mid c)$ — generic sketch; не уравнение default Hie (там отношение маргиналов при полном $\mathbf{x}$) и не AR product Shanker.
[PAPER]Negative / non-binder labels в score: нет. Ranking не требует $y$; $y$ появляется только в wet-lab оценке кампании. Meier zero-shot no supervision; Hie no binding data to model
| Символ | Тип | Определение |
|---|---|---|
| $s^{mut}$ | sequence | кандидат с substitutions |
| $s^{wt}$ | sequence | parent |
| $c$ | context | токены и/или backbone Y |
| $\ell_\theta$ | scalar | pretrained log-likelihood; θ frozen |
| $\theta$ | params | не обновляется на assay y |
Оптимизации θ нет. Семплируется (выбирается) top-k из конечного списка mutants.
| Постановка | Train target | Sampler/декодер | Что в каталоге |
|---|---|---|---|
| Zero-shot scoring (этот класс) | нет task loss; pretrained ℓ | enumerate 19×pos, rank | ESM-1v evolution; structural evolution |
| Few-shot / AL | supervise $f_\phi$ на y | top-N / acquisition | EVOLVEpro |
| PLM целиком | MLM/AR pretrain | generate или embed | ProGen, IgLM, ESM3, … |
| Inverse folding как generator | CE $p(s\mid x)$ | temperature sample FASTA | AntiFold, ProteinMPNN |
| Masked infilling | infill span loss | unmask / ILM | IgLM, ESM3, EvoDiff-OADM |
Подтип A — masked-marginal Δℓ (Meier ESM-1v; foundational, не карточка tools)
[PAPER]Вход маскируется на всех $t\in T$. Additive для multiple mutations. Не WT-marginal Hie. Не catalog-tool equation. Meier §3; input masked at every mutated position
| Символ | Тип | Определение |
|---|---|---|
| $T$ | set of positions | мутированные сайты |
| $x_{\setminus T}$ | sequence | контекст; T замаскирован |
| $x^{mt}_t$ | AA | мутантный residual |
| $x^{wt}_t$ | AA | дикий тип |
Ранжирование вариантов для корреляции с DMS. Не BLI-кампания Hie.
Подтип B — wild-type-marginal consensus (Hie; tool-specific)
[PAPER]$p_j(x'_i\mid\mathbf{x})$ при полном (немаскированном) $\mathbf{x}$. $\alpha=1$. $M=6$: ESM-1b + ESM-1v×5. $k$ под $|\mathcal{A}_{\mathrm{VH}}\cup\mathcal{A}_{\mathrm{VL}}|\approx 10$; extra filter: substitution highest at site for ≥1 model. Tool-specific ESM-1v efficient evolution. CODE NR. Hie Methods; k listed per antibody
| Символ | Тип | Определение |
|---|---|---|
| $p_j$ | MLM | j-я модель ансамбля |
| $\mathbf{x}$ | WT sequence | полный контекст, сайт не mask |
| $\alpha$ | scalar | 1 в кампании |
| $k$ | int | порог голосов; задаёт |A|~10 |
| $M$ | int | 6 |
Выбирается множество singles для BLI round 1.
Подтип C — inverse-folding joint likelihood на комплексе (Shanker; tool-specific)
[PAPER]$Y\in\mathbb{R}^{N\times 3\times 3}$ (HTML: три атома на residue; канон Hsu N/Cα/C vs «β-carbon» HTML — unresolved typesetting). $p(x\mid Y)=\prod_i p(x_i\mid x_{structural evolution. Не masked MLM. Shanker Methods IF description and acquisition
| Символ | Тип | Определение |
|---|---|---|
| $Y$ | R^{N×3×3} | backbone coords комплекса |
| $x$ | sequence | оцениваемая цепь |
| $N$ | int | длина (лимит ESM-1v сравнения 1024) |
Семплируется top-k singles, затем top IF-комбинации. θ ESM-IF1 frozen (ckpt 2022-04-10).
4. Представление данных
Общее для класса
Класс читает «Parent sequence and/or complex backbone». Нужно отличать тензор сети (эмбеддинги вариантов, таблица labels $y$, индекс пула / library) от внешнего файла (CSV библиотеки, assay table, fasta parent). Размерности и аугментации без paper/code остаются NR. Дальше — как это кодируют конкретные реализации.
[PAPER]Hie/Meier: токены AA, раздельно VH и VL. Нет pair/distogram, нет time embedding, нет contig. Маска Meier — только scoring positions $T$; Hie scoring без маски сайта. Hie VH/VL separately; Meier mask T
[PAPER]Shanker: sequence tokens + geometric encoder features из $Y$. Комплекс: Ab variable + antigen RBD (PDB 7MMO Ly-1404; 7Y0W SA58). Внешний файл — PDB, не library CSV. Shanker Fig. 3e PDBs; Methods structures Supplementary Table 1
[PAPER]Размерности: ESM-1v 650M (Meier); пять seeds. ESM-1b architecture pointer Rives. Hidden width ESM-1v — NR this pass. $Y$: $N\times 3\times 3$. ESM-1v max length 1024 (Shanker excluded Cas9). Meier 650M; Shanker N×3×3; Cas9 >1024
[INTERPRETATION]Аугментации геометрии: нет rotation-aug в scoring Hie (sequence-only). Shanker: структура фиксирована; не описывают random SE(3) jitter как train (IF уже pretrained).
[PAPER]Kabat regions: Hie/Shanker аннотируют FR/CDR через abYsis post-hoc, не как входной tensor. Hie Methods abYsis 3.4.1 Kabat
[PAPER]Ensemble: Hie шесть forward passes на mutant. Meier DMS — среднее пяти masked-marginal. Не выдумывать batch size кода. Hie six LMs; Meier five-model ensemble
[PAPER]Conditioner antigen sequence: нет у Hie. У Shanker antigen входит как coords (+ sequence of other chains в complex scoring). Hie no antigen; Shanker Ab-Ag vs Ab-only
[PAPER]Library CSV: нет. Перечисление полное 20-алфавит (Shanker ~4300). Hie затем фильтр consensus, не полный experimental 19×N. Shanker all ~4300; Hie filtered A
NRPDB numbering: вход IF — coords; numbering для region labels — внешний abYsis/Kabat, не learned. явного tensor numbering в Methods нет
5. Физическое представление
Общее для класса
Математический объект класса соответствует такому физическому state: «Ranked single substitutions». Обычно это вариант sequence (мутант) плюс, для AL/BO, ещё не измеренный пул. Эмбеддинг PLM — не координаты и не энергия. Глобальный поворот PDB здесь ни при чём: структуры в state нет, пока метод явно не берёт IF-эмбеддинги комплекса. Ниже papers фиксируют, какой вариант они выбрали.
[PAPER]Математический score ↔ правдоподобие токенов при $c$, не ↔ атомы mutational Δ. Assay label $K_d$/IC50 появляется после wet-lab, не в $p_\theta$. Shanker no access to fitness during train/eval of IF
[PAPER]SE(3): Hie/Meier — не применимо (sequence). Shanker/IF — invariant geometric encoder (Hsu GVP); глобальный поворот комплекса не должен менять $p(x\mid Y)$ если модель инвариантна. Перестановка residues ломает chain order. Concat цепей — часть complex input Shanker. Hsu GVP-Transformer via Shanker; Hie sequence-only
[PAPER]Side chains: в Hie state отсутствуют. Shanker HTML: нет side-chain atoms в $Y$ («cannot learn explicit H-bonds/disulfides»). Packing не часть scorer. Shanker Results: no side chain atomic coordinates
[INTERPRETATION]Masked token / WT context ≠ траектория фолдинга и ≠ ΔG. Round-1 single ≠ MD.
[PAPER]Complex $Y$ должен быть credible. Неверный штамм/эпитоп — distribution shift (Shanker всё же скорит CR9114 vs H1/H3 при H5 structure: Spearman 0.65/0.50 — корреляция DMS, не гарантия дизайна). Shanker cross-reactive H5 structure vs H1/H3 data
[PAPER]Hie: 36/76 recommended singles в framework — физически далеки от интерфейса; авторы не утверждают, что модель «видит» epitope. Hie Results 36/76 FR
[INTERPRETATION]Chirality/ω: не в state sequence scorer.
[PAPER]Intermediate ensemble vote $f$ — дискретная агрегация моделей, не физическая энергия. Hie f indicator sum
6. Физико-химический смысл
Общее для класса
Какие физико-химические оси класс вообще может «видеть». Этот класс — в первую очередь experimental $y$ и эволюционную статистику PLM, если encoder frozen. H-bonds, электростатика, растворитель, энтропия и experimental affinity отсутствуют, пока нет явной energy / assay головы: модель тогда не считает $\Delta G$. Таблица ниже — как конкретные методы кодируют эти оси; строка про один tool не обобщается на класс.
[PAPER]Нет energy head. «Evolutionary plausibility» и «fold into backbone» — статистические priors, не ΔG. Hie evolutionary plausibility; Shanker fold into backbone
| Признак или операция модели | Физико-химическая интерпретация | Прямо / косвенно / внешне | Важное ограничение |
|---|---|---|---|
| identity AA | замена vs parent | прямо (перечисление токенов) | additive/single-site игнорирует эпистаз до round 2 assay |
| backbone / frames / torsions | остов комплекса | прямо только у Shanker (Y); у Hie не представлена | нужен правильный PDB; нет side chains |
| antigen / hotspot coords | интерфейс | Shanker — весь antigen backbone; Hie — не представлена | не epitope tensor RFantibody; HTML IF без H-bond chemistry |
| H-bonds / electrostatics / solvation / entropy | физика связывания | не представлены | нельзя сказать, что модель считает ΔG |
| evolutionary statistics | UniRef / CATH-AF structures | косвенно через pretrain θ | Hie: мало Ab в UniRef; AbLang/Sapiens проиграли general PLM на трёх UCA |
| experimental y (Kd, IC50, ELISA) | измеренная функция | не в score; только post-hoc assay | Spearman к DMS ≠ prospective Kd |
7. Что обучается
Общее для класса
Общий train target класса: «Обычно нет task-specific training; используется pretrained LM/IF». Нужно назвать, какие модули обучаются, какие frozen (PLM, MSA, RoseTTAFold trunk), и есть ли в loss negative / non-binder / affinity labels. Если в постановке класса labels нет — ответ «нет», даже если кто-то доучивает голову в приложении. Fine-tune vs pretrain различается объектом (PDB identities, SAbDab, assay $y$), не маркетингом. Детали сплитов — в подразделах papers.
[PAPER]На шаге scoring ничего не учится. θ = pretrained ESM-1v/1b или ESM-IF1. Frozen. Meier no gradient at inference; Shanker zero-shot
[PAPER]Pretrain Meier: MLM на UniRef90 2020-03 ~98M; 650M; 5 seeds; ppl 7.29 holdout. Optional family-spiked fine-tune — не protocol Hie antibody campaign. Meier ESM-1v paragraph; spiked fine-tune §
[PAPER]ESM-1b: UniRef50 2018-03 ~27M (Hie). Не путать с ESM-2 15B EVOLVEpro embeddings. Hie Methods ESM-1b UniRef50
[PAPER]ESM-IF1: sequence recovery на 12M AF2 structures + CATH (Hsu pointer); Shanker ckpt 2022-04-10. Train на single-chain; inference на multimeric complex — zero-shot transfer, не fine-tune на Ab–Ag. Shanker trained on single-chain; checkpoint date
[PAPER]Loss класса scoring: нет. Negative/non-binder/contrastive/affinity в Δℓ: нет. Meier unsupervised; Hie no task-specific supervision
[PAPER]Hie round 2 не fine-tune LM. Shanker round 2 пересчитывает IF likelihood комбинаций — всё ещё frozen θ. Hie/Shanker Methods round 2
[MATRIX]AntiFold fine-tune SAbDab+OAS — другой tool и architecture_id; не приписывать к structural-evolution.
[PAPER]Baselines Hie (abYsis, UniRef90 MSA frequencies, AbLang, Sapiens) — отдельные scorers, не θ кампании. Hie comparison sequence-based methods
[INTERPRETATION]Не обучается AF/docking/Rosetta. Не FAPE.
8. Прямой проход и information flow
Общее для класса
Прямой проход класса: пул или список мутаций → (опционально encoder) → суррогат/scorer → выбор batch или ранжирование → внешний assay → обновление данных. Чужие блоки (pack, AlphaFold, docking, ELISA) нельзя прятать внутрь «одной сети». Схема ниже, если есть, — оригинал по прочитанным источникам, не копипаст figure. Затем — где у tools generator, а где evaluator.
[PAPER]Порядок Hie: WT seq → все singles VH, все singles VL → 6 LM likelihood ratios → $\mathcal{A}$ → экспрессия → BLI. Sequence только; geometry нет. Hie Methods
[PAPER]Порядок Meier DMS: mask T → Eq. 1 → Spearman vs assay table. Нет proposal workflow обязательно. Meier Fig. 1 task
[PAPER]Порядок Shanker campaign: PDB complex → score ~4300 → top 10 unique/chain → pseudovirus IC50 → combine beneficial → IF rescore combos → assay. Geometry с шага 1; sequence mutant подставляется в AR score. Shanker Acquisition Methods
[PAPER]Не прятать ProteinMPNN/AF внутрь ESM-1v. Shanker не предсказывает структуру — $Y$ дан. Shanker uses supplied backbone
[PAPER]Tm, polyspecificity, NetMHCpan — evaluators Hie post-hoc, не scorer. Hie Additional characterization
[PAPER]DMS Livesey–Marsh / Markin — in silico oracle для enrichment (Hie Fig. 4; Shanker Fig. 1d), не wet-lab antibody $K_d$. Hie Fig. 4; Shanker 10 proteins DMS
[PAPER]Experiment box: BLI, Fab $K_d$, IgG apparent $K_d$, IC50. Только они устанавливают affinity/function. Hie/Shanker assay Methods
[INTERPRETATION]Нет recycle AF, нет beam, нет docking в forward pass.
flowchart TD
PAR["Parent sequence and/or complex PDB"] --> ENUM["Enumerate singles 19 x positions"]
ENUM --> HIE["SCORER Hie: WT-marginal 6 LMs consensus"]
ENUM --> MEI["SCORER Meier: masked-marginal ensemble"]
ENUM --> IF["SCORER Shanker: ESM-IF1 p(x|Y) on complex"]
HIE --> RANK["Ranked substitutions — not Kd"]
MEI --> RANK
IF --> RANK
RANK --> PICK["Top-k / unique residues"]
PICK --> EXP["EXPERIMENT: BLI / pseudovirus / DMS oracle"]
EXP --> R2["Optional round-2 combinations"]
R2 --> IF
R2 --> EXP
subgraph scorerblk ["Scorer frozen θ"]
HIE
MEI
IF
end
subgraph expblk ["Experiment / evaluator"]
EXP
end
9. Training procedure
Общее для класса
У класса нет единого корпуса. Типичные данные: набор измеренных вариантов parent-а и, отдельно, pretrain корпуса PLM, если encoder не с нуля. Split и leakage — свойства датасета реализации. Не выводить split из README. Не смешивать in silico designability с prospective wet-lab. Ниже каждый paper описывает свой корпус; нет цифры = NR.
[PAPER]Scoring pass не имеет split по антителам кампании. Pretrain Meier: UniRef90 2020-03; holdout ppl 7.29. Hie: те же веса, датасеты до открытия SARS-CoV-2 Abs кампании (авторы: нет disease-specific leakage в UniRef на эти Abs). Hie datasets precede SARS-CoV-2 antibodies; Meier ppl 7.29
[PAPER]ESM-IF1 train: Hsu (pointer) AF2-predicted + experimental; Shanker не retrains. Leakage: scoring Ab–Ag PDB, на которых IF не учился как complexes — claimed generalization, не измеренный train-overlap PDB IDs (NR). Shanker single-chain training; PDB IDs 7MMO/7Y0W as input
[PAPER]Batching scoring: NR в Hie besides <1 s/antibody. Meier: batch inference V100 jobs <1 h vs pretrain 6 days × 64 V100 — это pretrain cost, не scoring campaign. Hie runtime; Meier training 64 V100
NRTeacher forcing: IF AR при оценке полной последовательности (teacher-forced WT prefix + mutant token) — деталь decode Hsu; Shanker HTML «autoregressive as chain rule». Exact teacher-forcing vs full-seq logp API — CODE NR.
[PAPER]Симуляция: Hie Fig. 4 / Shanker Fig. 1d — DMS already collected (Livesey–Marsh). Prospective: Hie seven Abs BLI; Shanker Ly-1404/SA58. Не смешивать Spearman DMS с fold-change IC50. Hie Fig. 4 vs Fig. 2; Shanker Fig. 1d vs Fig. 3
[PAPER]Hie antibody split: нет ML split; семь выбранных клинических/UCA серий (Supplementary Table 1). Не 80/10/10. Hie seven antibodies list
NRFilters resolution PDB: Shanker uses deposited complexes; Å cutoff NR.
[INTERPRETATION]Self-conditioning: нет.
[INTERPRETATION]Не выводить hyperparams из GitHub README.
10. Inference and generation
Общее для класса
Общий inference класса: «Enumerate 19 substitutions × positions, score, take top-k». Старт — не «шум из $\mathcal{N}(0,I)$», а библиотека / список мутаций / уже посчитанные эмбеддинги. Pack / relax / AF / likelihood rerank помечаются как evaluator, не generator. Чего в классе нет (beam, recycle, assay-in-the-loop), пока tool явно не добавляет, — тоже общее свойство. Число шагов $T$, temperature, $k$ — tool-specific, если не оговорено.
[PAPER]Старт Hie: одна WT VH и одна WT VL. Старт Shanker: WT seq + PDB complex. Старт Meier: WT seq (+ optional MSA for MSA Transformer few-shot — не Hie). Hie single starting sequence; Shanker structure+seq
[PAPER]Алгоритм: полный enumeration singles (алфавит 20, исключая WT). Hie: consensus + k. Shanker: sort IF likelihood, top 10 unique positions/chain (20 singles round 1). Temperature/top-k softmax не используются в ranking (это не decoder sampling). Hie |A|~10; Shanker top ten unique residues each chain
[PAPER]Hie k: MEDI8852 2/2; UCA 2/2; mAb114 4/4; mAb114 UCA 2/2; S309 VH 2 VL 1; REGN10987 2/2; C143 2/2. [PAPER] Hie Methods k values
[PAPER]Post-hoc: expression, BLI, Tm, PSP polyspecificity, NetMHC, neutralization — experiment/evaluator. Не generator. Hie Methods assays
[INTERPRETATION]Чего нет: beam, AF recycle, epitope clamp, classifier-free guidance, UCB.
[PAPER]Round 2 Hie: recombine affinity-enhancing (or affinity-preserving for S309/REGN10987); не все Abs — exhaustive combinations (MEDI8852 да; другие — manual). [PAPER] Hie Methods second round
[PAPER]Round 2 Shanker: up to four 2-mutation chain combos; IF ranks all $2^{n}-1$ (Ly-1404 VH 8 beneficial → 255); top five; plus up to two dual-chain. Totals 31 and 25 variants. [PAPER preprint] Shanker Acquisition; 31 Ly-1404, 25 SA58
[PAPER]Hie compute: <1 s per antibody GPU; 742 Thera-SAbDab ~3 min; EPYC 7502P + A40 48GB. [PAPER] Shanker wall-clock scoring — NR. Hie Computational efficiency
11. Conditioning
Общее для класса
Что класс умеет зажимать по постановке: «Sequence context or complex coordinates». пул $\mathcal{X}$, разрешённые позиции, бюджет $k$, parent — не epitope tensor и не CFG, пока их нет. Contig, mask, motif, hotspot и library — разные объекты. Ниже papers перечисляют свой conditioner без переноса с соседа.
[PAPER]Hie: только parent sequence. Нет antigen, structure, ELISA labels, CATH, hotspot map. Hie: without antigen, binding, homologs, structure
[PAPER]Shanker: $Y$ variable regions both chains + RBD; settings ablation Ab-only / VH-only / Ab–Ag. Лучший retrospective — полный комплекс. Shanker Fig. 2 three settings
NRНет classifier-free guidance. Нет contig RFdiffusion.
[INTERPRETATION]Не приписывать epitope tensor / measured_var. Library $\mathcal{X}$ = enumerated mutants, не experimental combinatorial library CSV.
[PAPER]Meier few-shot: extra MSA sequences into MSA Transformer — другой режим, не catalog Hie. Meier §3.1 few-shot MSA Transformer
[PAPER]Hie scoring VH и VL независимо (два conditioner sequence). Не paired transformer. Hie Methods separately
[PAPER]Shanker combinatorials: conditioner тот же $Y$; меняется только $x$. Shanker joint likelihood all positions
[PAPER]Masking CDR-only: не default Hie/Shanker (unbiased all variable domain). AntiFold region mask — другой tool. Hie ~half FR; Shanker all regions
12. Вычислительная сложность
Общее для класса
Драйверы стоимости класса: «Positions × 19; ensemble members». Сравнение «дешевле diffusion» допустимо только если paper дал NFE/steps; иначе это INTERPRETATION или молчание. GPU hours / wall-clock без источника — NR. Цифры одной кампании не становятся сложностью всего класса.
[INTERPRETATION]Драйверы: $N$ residues × 19 substitutions × $M$ ensemble forwards (Hie $M=6$) или один IF AR pass на mutant (Shanker). Attention $O(N^2)$ внутри LM/IF.
[PAPER]Hie: линейно по числу Abs; 742 in ~3 min на A40. [PAPER] Не «дешевле diffusion» без NFE-сравнения в paper — не писать. Hie 742 Thera-SAbDab ~3 min
[PAPER]Assay latency доминирует: 8–14 variants round 1, 1–11 round 2 (Hie); 20 singles then combos (Shanker). #rounds = 2 laboratory, не ML epochs. Hie 8–14 and 1–11; Shanker 20 singles
[PAPER]GPU scoring cheap vs expression. Meier pretrain 64×V100×6 days — не cost пользователя scoring. Meier 6 days 64 V100
[PAPER]Combinatorial round 2: $2^{n}$ IF scores (255 при n=8) — всё ещё tiny vs 20^N. Shanker 255 candidate sequences
NRShanker GPU hours — NR.
13. Преимущества
Общее для класса
Преимущества должны следовать из механизма класса (цикл с малым бюджетом, локальный граф, joint prior…), не из маркетинга. Seed-список: «Не нужны labels; Быстрый shortlist». Любое количественное число ниже обязано иметь PAPER/SI locator и не обобщается с одного белка на класс. Это не гарантия стабильности, аффинности или экспрессии.
[PAPER]Из постановки: не нужны $y$ и (у Hie) не нужна структура — низкий порог входа. Hie end user single WT sequence
[PAPER]Hie: семь Abs, ≤20 variants, два раунда; 71–100% round-1 Fab sub-μM; 14–71% ≥1.1-fold $K_d$; all but REGN10987 ≥2-fold. Clinically relevant: MEDI8852 H7 HK17 Fab 0.21→0.03 nM (7-fold); mAb114 GP 3.4-fold; C143 neutralization 32-fold Beta (VL G53V), 19-fold D614G (VL T33N-G53V); mAb114 UCA 160-fold Fab $K_d$. [PAPER] Не обобщать на все Abs. Hie Results; Fig. 3b; Supp. Tables
[PAPER]Hie 122 variants, 121 expressed. Tm>70 °C tested affinity-enhancing; 21/31 higher Tm than WT. Polyspecificity без существенного сдвига (Fig. 3a). [PAPER] Hie expression; Tm; PSP
[PAPER]Shanker preprint: 35%/30% singles improve IC50 (≥1.1) vs encoded strain; all 15 multi-mut round 2 better than WT; Ly-1404 7-mut VH 26-fold IC50 BQ.1.1 (31 variants); SA58 11-fold (25 variants); $K_{D,\mathrm{app}}$ XBB.1.5 up to 37-fold. Science abstract «25-fold» — не page-sync. [PAPER preprint] Shanker Fig. 3; Fig. 4c
[PAPER]Retrospective: IF Spearman CR9114-H1 0.65 vs ESM-1v 0.08 при Ab–Ag input — DMS $K_D$ library, не Hie campaign. [PAPER preprint] Shanker Fig. 2a
[INTERPRETATION]Явно: fold-change на одном parent/antigen не гарантия стабильности, экспрессии, affinity к другому epitope. Likelihood ≠ $K_d$.
[PAPER]Hie vs AbLang/Sapiens/abYsis на трёх UCA avidity: general PLM лучше (Supp. Table 12). Не сравнивать с EVOLVEpro hit rate. Hie Supplementary Table 12
[PAPER]Framework mutations: механизм «не только CDR» следует из unbiased enumeration, не из docking. Hie 36/76 FR; Shanker F24Y V90S FR
14. Ограничения
Общее для класса
Ограничения класса по осям: математика представления, физика/химия, bias данных, обобщение, deployment. Seed-список: «Не epistasis; Не calibrated affinity». Не дублировать преимущества с обратным знаком без новой информации. Ниже papers добавляют конкретные дыры (SI, split, gated weights).
[PAPER]Математика: additive Δℓ / single-site round 1 не моделирует эпистаз; WT- vs masked-marginal — разные калибровки; IF AR teacher-forcing details NR. Meier additive; Hie Ext. Data Fig. 1
[PAPER]Представление: Hie слеп к геометрии интерфейса; Shanker слеп к side-chain chemistry; оба не multi-objective optimizer. catalog limitations; Shanker no side chains
[PAPER]Физика: нет ΔG head; Tm не объясняет все affinity gains (MEDI8852 Tm down). [PAPER] Hie Tm vs affinity paragraph
[PAPER]Данные: UniRef мало Abs; SARS-CoV-2 Abs после cutoff train — claimed, не audit leakage. C143/REGN в UniRef как sequences — NR beyond authors' statement. Hie few thousand antibody-related UniRef
[PAPER]Обобщение: REGN10987 слабее (1.3-fold screening antigen). Highly matured Abs — меньший fold-change. Unnatural selection pressures — Discussion Hie. Hie REGN10987; Discussion fitness peak
[INTERPRETATION]Deployment: CODE unaudited; Science vs preprint numbers; не catalog antibody de novo. Shanker требует PDB.
15. Failure modes
Общее для класса
Типичные ошибки пользователя и модели для этого класса: пул без хорошего binder, переобучение на шум assay, greedy top-$N$ без exploration, $\hat y$ как будто $K_d$. Seed-список: «Over-trusting evolutionary plausibility». Это не общие «может не сработать». Дальше — как эти режимы проявлялись в конкретных работах каталога.
[INTERPRETATION]Конкретные ошибки.
- Подставить Meier masked Eq. 1 как код ESM-1v efficient evolution (Hie = WT-marginal + consensus).
- Считать Δℓ / IF LL равным $K_d$ или ELISA без assay.
- Смешать с EVOLVEpro: нет labels → zero-shot; есть ~10+ y → few-shot.
- Shanker без credible complex (wrong epitope/strain) — Hie sequence-only безопаснее, IF нет.
- Ожидать de novo CDR topology / hotspot binder — не тот generated object.
- AntiFold temperature sampling как этот architecture_id.
- Сравнивать 160-fold UCA $K_d$ и 26-fold VOC IC50 как один leaderboard.
- Игнорировать epistasis: остановиться после round-1 singles, когда paper's gains often in combinations.
- MSA-Transformer few-shot Meier как Hie protocol.
- AbLang/Sapiens вместо general PLM, когда Hie benchmark показал хуже на UCA.
- Скоринг subsequence: Meier methionine calibration / start-M bias.
- Длина >1024 (Shanker Cas9 excluded) для ESM-1v comparison.
- Round-2 combinatorial explosion без IF rescoring (Shanker) или без assay filter (Hie).
- Journal 25-fold vs preprint 26-fold silently merged.
16. Реализации в инструментах
Общее для класса
Реализации класса в каталоге определяются reverse index architecture_id, а не похожестью названия. Колонки таблицы: generic architecture vs tool-specific. Непрочитанный tool — строка с NR, без выдуманных уравнений. Foundational methods вне карточек tools можно указать явно. Неравные кампании не ставят в одну колонку «успех». Список ссылок на tools повторяется служебным блоком после нумерованных разделов.
[MATRIX]Reverse index: ровно два catalog tools. Остальное — литература / путаница. Неравные oracles не в одной колонке успеха.
| Tool | Generic architecture | Tool-specific implementation | Important difference |
|---|---|---|---|
| ESM-1v efficient evolution | zero-shot sequence likelihood ranking | Hie WT-marginal, α=1, ESM-1b+5×ESM-1v, k~10, two BLI rounds; CODE NR | Нет структуры/антигена; не Meier Eq. 1; не EVOLVEpro |
| Structural evolution | zero-shot IF likelihood ranking | ESM-IF1 on Ab–Ag $Y$; top-10 unique/chain; 31+25 variants preprint; CODE NR; Science body NR | Нужен complex PDB; joint AR $p(x\mid Y)$; также architecture_id inverse-folding |
| Method | Generic architecture | Implementation | Important difference |
|---|---|---|---|
| Meier ESM-1v (не карточка tools) | masked-marginal Δℓ | Eq. 1, 41 DMS Spearman, 650M×5 | Foundational scorer; Hie — другой маргинал |
| AntiFold | IF generator + optional rank | FT ESM-IF1 Abs; нет zero-shot-mutation-scoring id | Sampling FASTA; DMS correlation ≠ Hie/Shanker campaign |
| EVOLVEpro | few-shot | frozen ESM-2 + RF | Нужны labels; incompatible comparison |
| AbLang / Sapiens / abYsis | sequence baselines | Hie Supp. Table 12 | Не catalog tools |
17. Где применимо и где не применимо
Общее для класса
Класс уместен для задач: single-mutation-proposal; affinity-maturation. Не уместен: few-shot-active-learning. Ссылки на workflows имеют смысл, только если стадия реально вызывает этот класс как generator/scorer, а не как соседний модуль. Чем пользоваться вместо запрещённой задачи — соседний architecture / workflow, не «тот же GNN». Ниже — разбор papers и явные запреты, затем служебные списки каталога.
[MATRIX]Применимо: single-mutation proposal, affinity maturation при малом бюджете; workflow zero-shot mutation. Sequence-only → ESM-1v efficient evolution; есть complex → structural evolution.
[MATRIX]Запрет: few-shot active learning как замена, если labels уже есть — EVOLVEpro. De novo antibody CDR 3D — frame diffusion/RFantibody или joint diffusion. Humanization FR redesign как diffusion — HuDiff. Inverse folding redesign маски — AntiFold.
[INTERPRETATION]Запрет: multi-objective Pareto на library (Makowski) этим scorer'ом. Combinatorial 19^k без round-2 strategy.
[PAPER]Нельзя решать codon/CHO/secretion. Нельзя выдавать NetMHC count за immunogenicity trial. Hie HLA computational proxy
18. Методологические источники
Общее для класса
Этот раздел — какие работы определяют класс и какие карточки papers каталога к нему привязаны, что прочитано vs pointer-only. Идентификаторы каталога: paper-esm-1v-efficient-evolution; paper-structural-evolution. Это не библиография «всего по теме». Таблица происхождения источников, paywall и статус сверки вынесены в конец страницы, чтобы не заслонять определение класса.
[PAPER]Foundational scoring: Meier bioRxiv (прочитан HTML §3). Catalog: Hie Nat. Biotechnol. journal HTML (прочитан Methods+Results); Shanker bioRxiv HTML (прочитан Methods+campaign). Hsu ESM-IF1 — pointer. Science adk8946 body — inaccessible this pass.
[MATRIX]Catalog paper pages: paper-esm-1v-efficient-evolution, paper-structural-evolution. CODE repos — pointer-only.
[INTERPRETATION]Не библиография всего variant-effect: DeepSequence, EVMutation — Meier baselines. Livesey–Marsh — DMS meta, не architecture. AntiFold analysis — соседняя IF-страница.
Инструменты, использующие подход
Efficient evolution with ESM-1v, Structural evolution (ESM-IF1 complex)Где применимо
Предложение single mutations, Affinity maturationГде не стоит использовать
Few-shot active learningPapers каталога
Efficient evolution of human antibodies from general protein language models, Unsupervised evolution of protein and antibody complexes with a structure-informed language modelПодтипы класса
- Masked PLM ΔLL
- Inverse-folding ΔLL
Статус сверки источников
Недоступные или неполные источники
| Источник | Почему недоступен | Что использовано вместо |
|---|---|---|
| Meier et al. journal version (if any beyond bioRxiv) + Appendix A scoring-scheme proofs | Канон — bioRxiv HTML §3; appendix derivations не построчно | Eq. (1) masked-marginal + additive T; Table 5 WT/mutant/pseudolikelihood хуже — основной HTML |
| Hie Nat. Biotechnol. Supplementary Tables 2–12 / Data 1 per-Kd cells | HTML отдаёт часть таблиц без полной матрицы Kd | Campaign numbers из Main/Fig. 2–3 prose; k per antibody — Methods |
| Shanker Science 10.1126/science.adk8946 full HTML/SI | Cloudflare; в этом проходе канон — bioRxiv HTML | Methods scoring, 31/25 variants, 26-fold IC50, 37-fold KD,app — preprint; Science-only 25-fold abstract не сливать с 26-fold |
| brianhie/efficient-evolution commit SHA + scoring functions | CODE unaudited this pass | WT-marginal, α=1, six-model consensus, k — Nature Methods |
| varun-shanker/structural-evolution commit SHA | CODE unaudited | ESM-IF1 ckpt 2022-04-10, top-10 unique residues/chain — bioRxiv Methods |
| facebookresearch/esm ESM-1v / ESM-IF1 score_sequence symbols | не line-audit | Meier/Hsu via papers; CLI flags — NR |
Происхождение источников
| Метка | Источник | Ссылка | Примечание |
|---|---|---|---|
| [PAPER] | Meier J. et al. Language models enable zero-shot prediction of the effects of mutations on protein function. bioRxiv 10.1101/2021.07.09.450648 | https://www.biorxiv.org/content/10.1101/2021.07.09.450648v2.full | Preprint: ESM-1v 650M×5, UniRef90 2020-03, masked-marginal Eq. 1, 41 DMS Spearman; не catalog tool |
| [PAPER] | Hie B.L. et al. Efficient evolution of human antibodies from general protein language models. Nat. Biotechnol. (2023) 10.1038/s41587-023-01763-2 | https://www.nature.com/articles/s41587-023-01763-2 | Journal: WT-marginal consensus ESM-1b+ESM-1v; seven IgG; BLI/pseudovirus; tool esm-1v-efficient-evolution |
| [PAPER] | Shanker V.R., Bruun T.U.J., Hie B.L., Kim P.S. Inverse folding of protein complexes… bioRxiv 10.1101/2023.12.19.572475 | https://www.biorxiv.org/content/10.1101/2023.12.19.572475v1.full | Preprint of Science adk8946: ESM-IF1 on Ab–Ag complex; Ly-1404/SA58; не сливать 26- vs 25-fold |
| [PAPER] | Hsu et al. Learning inverse folding from millions of predicted structures. ICML 2022 / ESM-IF1 | https://doi.org/10.48550/arXiv.2206.12094 | Pointer: GVP-Transformer p(x|Y); Shanker uses checkpoint 2022-04-10; full Hsu не close-read this pass |
| [MATRIX] | catalog reverse index architecture_id zero-shot-mutation-scoring | NR | esm-1v-efficient-evolution, structural-evolution — only |
Методологические источники
- [1] Meier et al. ESM-1v zero-shot mutation effects. bioRxiv 10.1101/2021.07.09.450648. · DOI · источник
- [2] Hie et al. Efficient evolution of human antibodies from general protein language models. Nat. Biotechnol. 10.1038/s41587-023-01763-2. · DOI · источник
- [3] Shanker et al. Inverse folding of protein complexes enables unsupervised antibody evolution. bioRxiv 10.1101/2023.12.19.572475. · DOI · источник
- [4] Shanker et al. Science 10.1126/science.adk8946 (journal; body not page-synced this pass). · DOI · источник
- [5] Hsu et al. ESM-IF1. ICML 2022 / arXiv:2206.12094. · DOI · источник
Нерешённые научные вопросы
- brianhie/efficient-evolution and varun-shanker/structural-evolution commit SHA / function names
- Science adk8946 SI and 25-fold vs preprint 26-fold body reconciliation
- Shanker HTML Y atoms α/β-carbon vs Hsu N-Cα-C typesetting
- Exact IF Δ formula mutant vs WT (HTML garbled); teacher-forcing API
- Hie Supplementary Tables full Kd matrices
- Meier journal pagination / NeurIPS camera-ready if any
- ESM-1v hidden size / layers beyond 650M
- PDB train-overlap of 7MMO/7Y0W with ESM-IF1 AF2 corpus
- AntiFold DMS Spearman numbers not copied here (wrong architecture_id)