Few-shot mutation optimization

Few-shot оптимизация мутаций. Established English term: Few-shot mutation optimization.

1. Область определения

[INTERPRETATION]Роль в пайплайне — labelled mutation protocol / sequential design loop над заранее заданной mutational library $\mathcal{X}$: (i) собрать experimental $y$ на parent-вариантах; (ii) обучить лёгкий surrogate $f_\phi$ в feature space $x(s)$; (iii) предложить batch $B\subset\mathcal{X}$ (один раз или итеративно). Класс есть постановка данных и выбора, не фиксированная neural architecture и не density model токенов.

[INTERPRETATION]Generated / selected state — ranked mutants (single- или multi-site substitutions parent'а). Scored state surrogate — скаляр или вектор phenotype $\hat y$ / LDA-проекция $\phi$, не coords, не SE(3) frames, не diffusion $x_t$. Вход сети vs файлы: последовательность варианта и таблица labels; embeddings или one-hot считаются с FASTA/CSV, не из PDB numbering как тензора модели.

[MATRIX]Задачи каталога, которые класс реально закрывает как mutation-optimizer: few-shot active learning, ML-guided directed evolution, affinity maturation, combinatorial mutation design, off-target optimization при наличии panel labels. Workflow: few-shot / labelled mutation optimization. architectures/few-shot-mutation-optimization.yaml applicable_task_ids; tools architecture_ids

[PAPER]Это не zero-shot mutation scoring: там нет task loss на новых $y$; $\Delta\ell$ / ESM pMMS — не surrogate этого класса. Science: activity EVOLVEpro-вариантов не коррелирует с ESM-2 pMMS (C143 $-0.16$, aCD71 $0.01$ между predicted fitness и predicted activity в latent scan). Science Fig. 2J; figs. S3C and S4E correlations −0.16 and 0.01

[INTERPRETATION]Это не active learning как определение: AL — любой rule выбора следующего batch $A_t$. Few-shot задаёт режим данных (мало labels относительно пространства). EVOLVEpro реализует оба; Makowski — library-trained fit + Pareto без EVOLVEpro-style rounds по 10 ELISA. Не отождествлять класс с pool-based AL обязательно.

[CODE]Это не bayesian optimization: BO требует probabilistic posterior и acquisition $a(x;p(f\mid D))$, использующую uncertainty. Released EVOLVEpro — RF + top-$N$ $\hat y$; колонка std_predictions — нули. Не ставить UCB/EI как train target этой страницы. model.py top_layer y_std_* = np.zeros; evolve.py evolve_experimental regression_type='randomforest'

[MATRIX]Это не multi-objective optimization как класс сравнения нескольких $y$: few-shot может быть одноцелевым. Makowski также несёт architecture_id MOO (Pareto на $\phi_{\mathrm{aff}},\phi_{\mathrm{NSB}}$); на этой странице он — подтип labelled mutation, не определение Pareto. Это не protein language models как generator: PLM здесь frozen feature extractor, не decoder.

[MATRIX]Это не de novo topology / frame diffusion / coordinate diffusion. Seed: not_for de novo antibody design. Catalog tools с этим architecture_id: EVOLVEpro, Makowski affinity–specificity. Часто путают с ESM-1v efficient evolution (zero-shot) и с GP-UCB Romero (другой класс, не tool).

2. Интуитивный принцип

[PAPER]Интуиция: assay на parent-семействе даёт редкие, но прямые числа $y$. Pretrained PLM или sequence features задают координаты, в которых близкие мутанты похожи. Лёгкая голова $f_\phi$ учит карту «embedding → activity» на этих числах и ранжирует ещё не измеренный пул. При inference меняется не генератор fold, а кто попал в $D$ и, следовательно, fit $\phi$; веса PLM не обновляются под $y$ в описанных методах. Science Fig. 1A; Makowski Fig. 1 library then models

[PAPER]Два эмпирических режима, которые нельзя слить в «~10 ELISA». EVOLVEpro: low-N итерации («as few as 10 experimental data points per round» — Science intro; DMS-симуляции 16/round). Makowski: 4000 binary deep-seq labels с sorts, затем 125 scFab и 41/29 IgG — это labelled library, не 10 точек ELISA, но всё ещё parent-library supervised mutation, не de novo. Science intro as few as 10 per round; Makowski Methods 4000 master set

[PAPER]Главный рычаг EVOLVEpro — informative frozen embedding ESM-2 15B mean-pool + iterative labels, не fine-tune 15B на fitness. Science grid: random first round, RF, average embeddings, top-N (fig. S1A). Preprint/journal: PLM representations outperform one-hot/integer на DMS panel. Science Results grid search; Fig. 1B ESM-2 15B

[PAPER]Главный рычаг Makowski — binary sort labels → 1D LDA projection, которая коррелирует с непрерывным yeast/IgG readout, плюс Pareto. Enrichment/frequency не дают той же корреляции. Для выхода за 8 library sites — frozen UniRep-64 и Blosum62 $\ge 0$ gate, не OneHot. Makowski Fig. 3 vs conventional analysis; Fig. 5 UniRep + Blosum62

[INTERPRETATION]Предостережение по метрикам. $\hat y$ RF, LDA $\phi$, classification accuracy 93%, Spearman на 125 клонах, pLDDT/AF3 post-hoc, ESM pMMS, ELISA IC50-from-curve, single-point 1 nM HGFR, EC50 на beads — разные объекты. Ни один internal score не есть experimental $K_d$ / BLI / SPR, пока oracle не измерен. Generator (выбор $B$) $\neq$ evaluator (AF3, MOE homology) $\neq$ assay.

[PAPER]Science явно: PLM masked reconstruction не обязана совпадать с activity landscape; «in scenarios of correlations … zero-shot may work … enzyme optimization has proven more challenging». Подмена pMMS за affinity для этого класса опровергается их же Fig. 2J / 5H. Science Discussion PLM limitations; Fig. 2J; Fig. 5H T7 negative correlation 0.13

[PAPER]Makowski явно: LDA projections are «continuous metrics and not actual property values». Single-point antigen 1 nM нормирован к WT/elotuzumab; EC50 только для lead EM1/EM2. Homology MOE (PDB templates 4LIQ/3W2D/4YHL/5NHW) — post-hoc interpretation EM2, не вход LDA. Makowski Fig. 3C–D prose; Methods Antibody structural modeling

[PAPER]При inference меняется ranked shortlist. Не меняется topology антитела, не семплируется шум diffusion, нет temperature AR decode. Round 0 EVOLVEpro в победной DMS-конфигурации — random, не informative prior medoids (medoids были в grid, не winner). Science Methods summary first-round random vs K-medoids; winning strategy random

3. Формальная математическая постановка

[INTERPRETATION]Сначала родовая постановка класса (fit на $D$, затем selection из $\mathcal{X}$). Затем подтипы с разными уравнениями: (A) EVOLVEpro — frozen mean-pool + RF + top-$n$ iterative, tool EVOLVEpro; (B) Makowski — binary LDA + Pareto, tool Makowski. Не одна «универсальная» $f_\phi(E(s))\approx y$ на оба. Seed one-liner $f_\phi(E(s))\approx y$ — EVOLVEpro-like, не Makowski LDA.

[INTERPRETATION]Формулы, которые не являются уравнениями default-инструментов и не train target класса: UCB/EI/KG; Meier masked-marginal $\Delta\ell$; AF2 FAPE; diffusion score; AR NLL ProGen; MLM infill. Weighted $4\times$ binding vs expression (Science antibodies) и T7 20/40/40 (preprint) — scalarization поверх few-shot fit, не GP-NLL. Не подставлять seed как уравнение Makowski.

[PAPER]Negative / non-binder / contrastive affinity labels в loss головы: у EVOLVEpro default — нет contrastive head; $y$ — scalar activity (в т.ч. низкие значения как ordinary regression). У Makowski binary high/low antigen и high/low NSB есть как class labels LDA/NN, это не ELISA $K_d$ negatives и не docking decoys. Science RF on continuous y; Makowski Methods label assignment

[INTERPRETATION]Не сравнивать Science C143 60 pM / aCD71 19 pM, preprint REGN 63%/11.9 nM, Makowski 37% dual-improved IgG и DMS 2.2-fold vs 7-fold как один benchmark: generated object, oracle и split разные.

[PAPER]Science Methods summary Eq. 8 в HTML сломан (max y_train round k ≤ max y_train round k); не копировать как закон. Смысл prose: greedy top-n призван растянуть верхний край RF-диапазона между раундами — INTERPRETATION этой фразы, не отдельная формула. Science Methods summary Eq. (8) garbled; surrounding top-n prose

[CODE]CODE симуляции (dist, topn2bottomn2, random, gp regressor) не меняют родовое уравнение класса и не являются default experimental path. evolve_experimental всегда RF. Не выдавать MLP hidden_layer_sizes=(5) за journal EVOLVEpro. evolve.py learning_strategy branches; evolve_experimental regression_type='randomforest'

Подтип A — frozen PLM mean-pool + RF + top-n (EVOLVEpro; tool-specific)

[PAPER]Science Methods summary: $x_i=(a_1,\ldots,a_n)$, ESM-2 15B last layer $E_i\in\mathbb{R}^{n\times d}$, mean-pool $\bar e_i$. RF $T=100$, criterion Friedman MSE, prediction = среднее деревьев. Top-n по $\hat y$ на untested. Experimental CODE path жёстко randomforest. Не UCB. Не уравнение Makowski. Tool-specific EVOLVEpro. Science Methods summary Use of ESM2 embeddings; EVOLVEpro model; Active learning approach

Подтип B — binary LDA projections + Pareto (Makowski; tool-specific)

[PAPER]Не EVOLVEpro. Не frozen ESM-2 15B. Features: OneHot (sklearn LabelEncoder+OneHotEncoder), PhysChem-26, или UniRep-64 (babbler64.get_rep(), frozen). Независимые LDA на antigen vs NSB, solver SVD, 5-fold 3200/800, затем fit на полном 4000. $\phi$ — 1D projection, не Kd. Pareto на 4000; 41 IgG near frontier; later UniRep scan novel CDR sites. Tool-specific Makowski. CODE NR this pass. Makowski Methods Model development; Molecular feature embedding

4. Представление данных

[INTERPRETATION]Узлы residue-graph / pair tensors / time embedding diffusion не входят в default forward pass класса. Нет contig RFdiffusion. Conditioner — определение $\mathcal{X}$ и имя measured_var (CODE EVOLVEpro: колонка activity), не epitope voxel.

[CODE]EVOLVEpro tokens: AA sequence варианта. Сеть PLM даёт per-residue $E\in\mathbb{R}^{n\times d}$, затем average pool. Вход головы — вектор $\bar e$, не MSA. Masks: WT может исключаться из first-round random (labels.variant != "WT"). PCA 10 компонент — только ветка diverse_medoids first round (CODE), не победитель grid (Science: PCA 10–1000 не улучшил). model.py first_round; Science Results PCA did not improve; Methods embedding types PCA 10 to 1000

NRРазмерность $d$ ESM-2 15B — NR в прочитанном HTML. Не выводить из README. Длина $n$ — длина конкретного белка кампании, не фиксированный гиперпараметр класса. Science Methods summary d unnamed

[CODE]Внешние файлы EVOLVEpro: WT FASTA; CSV experimental rounds; матрица embeddings, выровненная по variant ID (experimental path печатает misalignment и выходит). Пул $\mathcal{X}$ — пользовательские single-/multi-mutant таблицы, не выученный prior. evolve.py evolve_experimental; model.py top_layer experimental alignment check

[PAPER]Makowski tokens: VH H1–H113 Kabat, все последовательности 115 residues. OneHot после LabelEncoder. PhysChem-26: counts 20 AA + hydrophobic/amphipathic/polar/charged groups + ExPASy pI + Kyte–Doolittle mean. UniRep-64 frozen. Не frames. Makowski Methods Molecular feature embedding; 115 residues H1–H113

[PAPER]Makowski library CSV / deep-seq: master 4000 из Supplemental emi_binding.csv (PAPER). Input vs сеть: degenerate codon library — wet construction, не тензор. Novel mutants — site-directed plasmids, features считаются той же процедурой, затем уже обученный LDA. Methods 4000 master; Data availability emi_binding.csv

[PAPER]Аугментации, меняющие геометрию: нет в классе (нет crop/rotation). Sequence-level: Makowski отбрасывает gaps/unknown и discordant antigen labels; <1% sequences had mutations at non-intended sites. EVOLVEpro DMS: raw vs min-max fitness в grid; winner — raw fitness. Makowski Methods discard unlabeled/gaps; Science winning strategy raw fitness

[PAPER]Batching: Makowski NN batch 50, 3200 train sequences; LDA не SGD-batch в смысле diffusion. EVOLVEpro RF fit на текущем $D_t$ целиком. Self-conditioning / teacher forcing — нет. Makowski NN batch 50; Science RF on current dataset

5. Физическое представление

[INTERPRETATION]Математический state $s$ — аминокислотная строка варианта (или VH 115 для Makowski). Соответствие атомам: нет в $f_\phi$. Assay label $y$ — физико-химический readout выбранного oracle (ELISA, IVTT, yeast FACS, IgG bead binding), не энергия Розетты.

[INTERPRETATION]SE(3): не применимо. Нет equivariant layers. Глобальный поворот PDB не входит в вход. Перестановка residues ломает PLM positional encoding и Kabat alignment Makowski, это не SE(3) test.

[PAPER]Chain concat: EVOLVEpro эмбеддит переданную последовательность как есть (antibody campaigns: переменные домены по тексту кампании; точный FASTA concat HC/LC — NR без файлов данных). Makowski моделирует VH; VL — common kappa в IgG expression, не в OneHot library. Makowski common IgG1 kappa; Science antibody LC/HC mutations named in Results

[PAPER]Side chains: отсутствуют в state модели. Packing / AF3 / MOE — post-hoc evaluator/interpretation, не generator. Science: AlphaFold 3 models of aCD71 and C143 (Fig. 2H–I, data S7) после эволюции. Makowski: MOE homology Amber10:EHT, dielectric 4, minimize 0.00001 RMS kcal/mol/Ų. Science Fig. 2H–I AF3; Makowski Methods Antibody structural modeling

[PAPER]Промежуточный $\bar e$ / LDA $\phi$ / masked PLM token $\neq$ физическая траектория фолдинга и $\neq$ $\Delta G$. RF $\hat y$ ограничен min/max train activity (Science Eq. 6) — статистическое свойство деревьев, не термодинамический bound. Science Methods summary Eq. (6)

[PAPER]Что ломает метод физически: смена oracle (ELISA vs SPR), смена антигена, выход из $\mathcal{X}$ (мутация сайта, которого нет в library EVOLVEpro без multi-mutant file; Makowski OneHot не видит новые сайты без UniRep). Makowski OneHot cannot vary novel sites; Science user-defined mutational space

[PAPER]Экспериментальный объект EVOLVEpro antibodies: ELISA vs SP6 spike (C143) или human TfR (aCD71), IC50 estimated from ELISA, n=3 technical, ANOVA. Это не SPR $K_d$. Preprint REGN10987 — другой mAb, другой текст, не подставлять в journal кампанию. Science Fig. 2C,F ELISA IC50; preprint Fig. 1E REGN10987

[PAPER]Экспериментальный объект Makowski: yeast scFab FACS; soluble IgG on Protein A beads, 1 nM HGFR or EC50 titration; OVA 0.1 mg/mL; SMP. CS-SINS и Tm — developability после выбора, не в LDA loss. Makowski Methods affinity measurements; Fig. 6E–F

6. Физико-химический смысл

[INTERPRETATION]Класс не имеет energy head и не «считает $\Delta G$». Ниже — что именно кодируется в двух catalog реализациях. Не переносить Rosetta $\Delta\Delta G$ соседних пайплайнов.

7. Что обучается

[CODE]Параметры $\phi$: EVOLVEpro — sklearn RF (или другой regression_type в симуляции). Frozen: ESM-2 15B (и прочие PLM в DMS ablation). Не fine-tune 15B на activity в описанном методе. CODE neuralnet: MLPRegressor hidden_layer_sizes=(5) — опция симуляции, не journal default. model.py RandomForestRegressor; MLPRegressor hidden_layer_sizes=(5)

[PAPER]Makowski $\phi$: LDA scalings (или NN projector + prediction layer). Frozen: UniRep-64 base weights. OneHot/PhysChem — детерминированные features, не trained encoder. Final LDA fit на всех 4000 после CV. Makowski Methods final models trained on the full datasets

[PAPER]Loss EVOLVEpro RF: Friedman MSE impurity деревьев (Science Eq. 3–4; CODE criterion='friedman_mse'). Это не NLL GP и не ranking loss в явном виде. Ridge/Lasso/ElasticNet в grid — default sklearn, «largely used with default parameters» (Science Methods). Science Methods summary Decision trees; parameter grid regression types

[PAPER]Loss Makowski NN: SparseCategoricalCrossentropy, ADAM, batch 50, 50 epochs OneHot/PhysChem, 250 UniRep. LDA — sklearn SVD, не выписанный cross-entropy в HTML. kNN baseline: KNeighborsClassifier k=1–25, mean 5-fold accuracy. Makowski Methods neural networks; kNN 1 to 25

[PAPER]Negative examples: Makowski да, как low antigen / high NSB binary classes (1516 high / 2484 low antigen; 2000/2000 specificity). EVOLVEpro нет отдельного non-binder contrastive; низкий continuous y просто обучает регрессию. Makowski Methods 4000 composition

[PAPER]Fine-tune vs pretrain. EVOLVEpro Science Fig. 1C: 5 rounds ×16 эквивалентны pretrain 160; 10×16 ≡ pretrain 500 на DMS. Это симуляция DMS, не wet-lab antibody. PLM pretrain — эволюционные последовательности, не ELISA. Science Fig. 1C 5×16 ≡ 160; 10×16 ≡ 500

[PAPER]Multi-objective heads: Science antibodies — один RF на scalarization binding weighted 4× expression (Fig. 2A). Preprint T7 — 20/40/40 yield/translation/immunogenicity. Makowski — два независимых LDA, затем Pareto, не один weighted scalar. Не путать. Science binding four times expression; preprint T7 20/40/40; Makowski two LDAs

[INTERPRETATION]Что не учится: equivariant geometry, inverse folding $p(s\mid x)$, diffusion score, assay hardware. AF3/MOE не в $\phi$.

8. Прямой проход и information flow

[PAPER]Порядок EVOLVEpro: определить $\mathcal{X}$ → (offline) посчитать frozen $E(s)$ для пула → round 0 random (winner) → assay $y$ → fit RF на $\bar e$ → rank untested по $\hat y$ → синтез/assay → нарастить $D$. Sequence появляется на шаге FASTA; geometry — только optional AF3 после; score — RF. Science Fig. 1A; Methods summary

[PAPER]Порядок Makowski generation-1: design 8-site library → yeast display MACS/FACS → deep-seq binary labels → OneHot LDA → Pareto plot 4000 → pick 41 IgG. Sequence с шага 1; geometry нет до MOE Fig. 7. Score = $\phi$. Experiment = sorts + yeast + IgG. Makowski Fig. 1–4

[PAPER]Порядок Makowski generation-2: UniRep features → LDA → propose 29 novel (15 new CDR sites, Blosum62≥0) → IgG assay. OneHot не используется для новых сайтов. Makowski Fig. 5; Methods novel sequences HCDR2/3, HCDR1 excluded

[PAPER]Не прятать inverse folding / packing / AF / docking внутрь «одной сети». Их нет в $f_\phi$. Science AF3 — интерпретация мутаций. Makowski MOE — интерпретация EM2 charge patch. Science Fig. 2H–I; Makowski Fig. 7

[CODE]CODE EVOLVEpro experimental: load_experimental_embeddings + concat round CSVs → create_iteration_dataframes → top_layer(..., experimental=True) → print df_test.sort_values(y_pred).head(number_of_variants) (default 12). Это печать shortlist, не обязательно $|B|$ синтеза. evolve.py evolve_experimental number_of_variants=12

[CODE]Симуляция directed_evolution_simulation: после top_layer выбор topn / dist (max dist_metric) / random / topn2bottomn2. dist — exploration в embedding, не EI. evolve.py learning_strategy branches

[PAPER]Experiment box: ELISA, genome-editing assays, IVTT/IFN-β, yeast FACS, IgG beads, cell proliferation. Только они устанавливают measured activity/specificity.

[INTERPRETATION]Нет beam search, нет AF recycle в loop, нет docking score как acquisition.

flowchart TD
  PAR["Parent plus user library X"] --> FEAT["Features: ESM mean-pool or OneHot UniRep PhysChem"]
  PLM["Frozen PLM or UniRep - not trained on y"] --> FEAT
  FEAT --> FIT["SCORER fit f_phi on labeled D"]
  FIT --> SEL["Selector top-N yhat or Pareto on phi"]
  SEL --> BATCH["Proposed mutants B - mutation generator"]
  BATCH --> EXP["EXPERIMENT ELISA yeast IgG DMS oracle"]
  EXP --> UPD["Append labels to D"]
  UPD --> FIT
  AF["Post-hoc AF3 or MOE homology - evaluator not generator"] -.-> BATCH
  subgraph genblk ["Selection over library - not de novo backbone"]
    PAR
    BATCH
  end
  subgraph scoreblk ["Surrogate scorer"]
    FEAT
    FIT
  end
  subgraph expblk ["Experiment"]
    EXP
  end

9. Training procedure

[PAPER]Единого pretrain-корпуса класса нет. PLM/UniRep pretrained на эволюционных seq (ESM-2: «>200-M proteins», 15B — Science; UniRep «over twenty million» — Makowski citing Alley). Task head учится только на campaign $D$. Science ESM-2 15B and >200-M; Makowski UniRep twenty million

[PAPER]EVOLVEpro DMS grid: 12 datasets (9 from prior zero-shot work + AsCas12f, Cov2 RBD, Zika envelope). High-fitness cutoffs from prior work or «general distribution». 16 variants/round, 3 simulations to vary first round. Winner count = datasets with highest mean fitness binary percentage. Split leakage DMS: симуляция знает полный oracle table — это in silico designability/activity recovery, не prospective wet-lab. Science Methods summary Benchmarking on 12 DMS; 3 simulations; 16 per round

[PAPER]Prospective EVOLVEpro Science: six proteins (genome editing, binding, RNA). Antibodies C143 (5 rounds; multimutant round 5) и aCD71 (5 rounds). Не смешивать с preprint five proteins / REGN10987. T7: multimutants combining up to three tested mutations + known G47A; sixth-round engineering in T7 section. Science six proteins; Fig. 2 five antibody rounds; Fig. 5 T7 multimutants

[PAPER]Makowski: theoretical diversity $1.7\times 10^6$; intro ~$10^7$ yeast variants. MACS $10^9$ then $10^7$ cells; FACS $10^7$. Deep-seq ~20% diversity; 1,504,269 and 851,151 unique seqs two replicates. Label rules: antigen positive = in both antigen+ samples; NSB positive ≥3/4 PSR+ and 0 negative. 4000 stratified. 5-fold 80/20. 125 Sanger не в 4000 (leakage control для ρ). Germline-holdout нет. Makowski Methods library sorting; 125 none in 4000

[INTERPRETATION]Симуляция vs experiment: DMS EVOLVEpro Fig. 1 — симуляция. ELISA/editing/IVTT — wet-lab. Makowski deep-seq — experiment; LDA test accuracy — in silico на тех же sorts; 125/41/29 — protein assays. Не называть DMS «wet-lab success rate класса».

[PAPER]Resolution/redundancy clustering PDB — не фильтр этого класса (нет structure train set). Makowski site selection: chemical rules, hydrophobic/positive, SASA >10%, <50% repertoire frequency — это design library, не ML split. Makowski Methods Antibody sub-library design four criteria

[CODE]Teacher forcing / diffusion time-sampling: нет. Batching NN Makowski 50. EVOLVEpro experimental output_dir hardcoded /orcd/archive/... — deployment barrier, не math. evolve_experimental output_dir default cluster path

[PAPER]Science RF vs GP vs kNN: RF best in 10/12 DMS (fig. S1E). Не делать из этого «GP-BO побеждён»: GP в grid — regressor без acquisition (CODE подтверждает отсутствие std в released path). Science Results RF best 10 out of 12 datasets fig. S1E

10. Inference and generation

[PAPER]Старт EVOLVEpro: не шум. Нужны embeddings всего пула и хотя бы round-0 labels (random или explicit variants). Старт Makowski generation-1: отсортированная библиотека и 4000 labelled seqs. Novel-scan: enumerative single AA except Cys на HCDR2/3. Makowski Methods unseen sequences all single AA except cysteine HCDR2/3

[PAPER]Алгоритм семплирования EVOLVEpro default: argsort $\hat y$, взять n. Нет ODE/SDE, нет temperature, нет top-k nucleus LM. Симуляция: 16/round типично; experimental number_of_variants default 12 — печать. Preprint antibody: 11/round. Journal antibody per-round n — NR в body (efficient-evolution benchmark aCD71: 10 mutants acquired as comparator, не обязательно размер EVOLVEpro batch). preprint 11 mutants each round; CODE number_of_variants=12; Science 10 mutants efficient evolution

[PAPER]Makowski selection: визуальный/ручной pick at or near Pareto (41 IgG); UniRep predicted beyond frontier (29). Нет beam. Нет recycle. Fig. 4A 41 antibodies; Fig. 5 29 unique variants

[PAPER]Post-hoc evaluator, не generator: AF3 (Science), MOE homology (Makowski), clash filters — NR в primary loop. Likelihood rerank pMMS — Science показывает, что он не совпадает с activity; не использовать как замену $f_\phi$. Science Fig. 2J pMMS uncorrelated

[PAPER]Чего в классе нет: classifier-free guidance, contig diffusion, AR order, assay-in-the-model. Нет гарантии, что top-n физически экспрессируется (aCD71 совместно тянул expression; C143 Pareto binding/expression «likely differs» — Science). Science Fig. 2G contrast C143 vs aCD71

[PAPER]Multi-mutant EVOLVEpro: модель ранжирует комбинации previously tested singles (C143/aCD71 round 5; T7 up to three + G47A). Это search по комбинаторному списку, не новый fold. Science C143/aCD71 multimutant round; T7 combining up to three

[PAPER]Truncation sampler: взять слишком малый n относительно шума ELISA → exploitation collapse в локальном RF range (Eq. 6). Взять learning_strategy='random' — не few-shot exploitation. Science Eq. (6) and greedy risk prose

[PAPER]Makowski без Blosum62 gate: affinity correlation novel set p=0.41 (не значимо). Это failure of unconstrained novel decode, не «генератор CDR». Makowski Blosum62 ablation p=0.41 antigen

11. Conditioning

[PAPER]Зажимается: parent sequence; allowed positions / combinatorial $\mathcal{X}$; budget n per round (EVOLVEpro); Makowski — 8 HCDR sites Y33, R50, R54, R55, G56, A95, W97, Y102 и алфавит WT+5. Later Blosum62≥0 и исключение Cys в novel scan. measured_var='activity' в CODE. Makowski eight sites named; CODE measured_var activity

[PAPER]Science antibodies: joint objective expression + binding, weight 4× на binding. Это conditioner scalarization, не epitope tensor. aCD71 vs C143 — разные antigens (TfR vs SP6 spike). Science weighed binding affinity at four times the expression level

[INTERPRETATION]Чего нет: ELISA labels внутри PLM; CATH class; hotspot residue tensor RFdiffusion; classifier-free guidance; contig strings. Не приписывать.

[PAPER]Makowski не кондиционируется на paired VL diversity (common light chain). EVOLVEpro C143 nominates LC and HC mutations — library must contain those chains; exact encoding NR без data files. Science LC Asn28 / HC Arg39; Makowski VH-only features

[CODE]Masking: только first-round exclude WT в CODE random; не MLM mask как conditioner infill. first_round variants_without_WT

[INTERPRETATION]Library misspecification = wrong conditioner: если ответ вне $\mathcal{X}$, класс не «придумает» de novo CDR loop.

[INTERPRETATION]Function keywords ESM3 / taxonomy — не этот класс.

[PAPER]Makowski antigen concentration 1 nM в single-point — экспериментальный протокол измерения, не learned conditioner сети. Fig. 3C antigen 1 nM HGFR

12. Вычислительная сложность

[PAPER]Драйверы: $|\mathcal{X}|$ in silico pool (Science: >16,000 single mutants; multimutants «more than 780 billion possible sequences» — enumeration claim, не то, что все 780B эмбеддятся); $n_{\mathrm{round}}$ labels; $T_{\mathrm{RF}}=100$ trees; pair $O(N^2)$ нет; AR steps нет; #rounds; assay latency доминирует. Science Discussion >16,000 and 780 billion

NRPLM embed всего пула — одноразовый cost до loop (high-d vs low-n: Science обсуждает PCA и отвергает). GPU wall-clock embed 15B — NR в прочитанном HTML. Не писать часы.

[INTERPRETATION]«Дешевле diffusion» — не писать: нет NFE-сравнения в primary. INTERPRETATION: нет T diffusion steps, но это не измеренный speedup vs RFdiffusion.

[PAPER]Makowski: fit 4000 cheap (sklearn); bottleneck wet-lab (library construction, 125+41+29 IgGs, HEK expression). Deep-seq volume ~2.3M unique across replicates. GPU UniRep — NR. 1,504,269 + 851,151 unique sequences

[CODE]kNN / beam / recycle не драйверы. $|U|$ untested EVOLVEpro — linear scan RF predict, не BO cubic $n_t$ unless кто-то включит GP (и даже тогда CODE не берёт σ). top_layer model.predict on X_test

NRCODE throughput / VRAM — NR. Hardcoded cluster path не есть runtime metric.

13. Преимущества

[INTERPRETATION]Из постановки: используется реальный assay кампании, поэтому карта $f_\phi$ может разойтись с эволюционным LM — это цель, не баг. Следует из наличия $D$, не из маркетинга «AI evolution».

[PAPER]Science DMS: 5×16 AL ≈ pretrain 160; 10×16 ≈ 500. RF wins 10/12 vs GP и kNN. ESM-2 15B лучший среди опрошенных PLM «on all datasets except two». Это retrospective simulation, не antibody Kd. Science Fig. 1C; RF 10/12; Fig. 1B except two

[PAPER]Science antibodies (journal): C143 LC N28K IC50 0.19 nM; multimutant LC N28R/Q40K + HC R39K IC50 60 pM (body; caption Fig. 2C пишет N28K в multimutant — расхождение, см. unresolved). aCD71 HC S92A 29 pM vs WT 551 pM; multimutant T70A/S92V 19 pM; EVOLVEpro nominated 35-fold vs WT vs efficient evolution 8-fold. Structured abstract: binding affinity two mAbs «up to 40-fold». Не обобщать на все antibodies и не сливать с preprint REGN. Science Fig. 2C, 2F; structured abstract 40-fold; 35-fold vs 8-fold

[PAPER]Preprint antibody (не journal): REGN10987, 11/round ×5, 63% ELISA improvement, IC50 11.9 nM; success 9.1% → 54.5%. Другой объект. Не усреднять с C143. preprint Fig. 1E 63%; 11.9 nM; 9.1% to 54.5%

[PAPER]Science T7: structured abstract 100-fold transcription fidelity and mRNA quality; Discussion 2- to 515-fold across properties; E643G 34× translation / ~98% less immunogenicity; multimutant T3M/G47A/E643G. Не переносить 515× на mAb. Science structured abstract T7 100-fold; Discussion 515-fold; Fig. 5C

[PAPER]Makowski: ρ=0.87 affinity ($p=10^{-39}$) и 0.67 NSB ($p=10^{-17}$) на 125 scFabs вне 4000; 41 IgG ρ=0.72 / 0.77; 37% dual-improved; EM1 1.20× antigen / 0.51× NSB; EM2 1.28× / 0.30×; EC50 2.6±0.2 и 2.4±0.3 nM vs WT 4.4±0.8 nM. Одна кампания emibetuzumab. Fig. 3C–D; Fig. 4; Fig. 6

[PAPER]Модульность: любой quantifiable assay как $y$ без fine-tune PLM (Science claim iv). Не гарантия стабильности / аффинности / экспрессии вне измеренного oracle и вне $\mathcal{X}$. Science Discussion four capabilities (i)–(iv)

[INTERPRETATION]Количественные числа выше — PAPER с locator; не класс-универсал. Не license писать UCB в карточку EVOLVEpro.

14. Ограничения

[PAPER]Математика: RF не даёт калиброванной uncertainty; predictions clamped в [min,max] train y; greedy top-n рискует local exploitation (Science сами это пишут). LDA $\phi$ не calibrated nM. Scalarization 4× прячет Pareto (C143 vs aCD71 frontiers differ). Science Eq. (6); greedy risk; Fig. 2G Pareto differs

[PAPER]Представление: нет geometry в loop; mean-pool теряет positional epitope signal (INTERPRETATION). OneHot не экстраполирует новые сайты. $|\mathcal{X}|$ должен содержать ответ. Makowski OneHot insensitive to novel sites

[INTERPRETATION]Физика/химия: нет растворителя, гликанов, явного интерфейса. ELISA IC50 ≠ SPR. Yeast display ≠ IgG. NSB to OVA/SMP ≠ clinical off-target panel.

[PAPER]Данные/bias: DMS cutoffs inherited; Makowski 4000 «prioritized for positive antigen … lower abundance» — selection bias в master set. Sort gates top 50% antigen / top 25% and bottom 10% NSB — label definition, не universal affinity. Makowski Methods gates and 4000 prioritization

[PAPER]Обобщение: Science — шесть белков, не universum. Makowski — один mAb. Pretrain 160 vs AL — DMS, не перенос на каждый assay. Journal vs preprint antibody campaigns разные.

[CODE]Deployment: EVOLVEpro experimental path hardcode RF и cluster output path. Makowski «not a packaged tool» (catalog). Science SI inaccessible для полной воспроизводимости grid. evolve_experimental hardcoded regression_type and output_dir

15. Failure modes

• {'text': 'Считать ESM pMMS / $\\Delta\\ell$ заменой $f_\\phi$ на той же кампании (Science: no correlation).', 'source': 'PAPER', 'locator': 'Fig. 2J; Fig. 5H'}
• {'text': 'Назвать EVOLVEpro GP-UCB, потому что в grid есть GaussianProcessRegressor (σ обнулён; experimental path RF).', 'source': 'CODE', 'locator': 'y_std zeros; evolve_experimental randomforest'}
• {'text': 'Слить preprint REGN10987 11.9 nM с journal C143 60 pM / aCD71 19 pM.', 'source': 'PAPER'}
• {'text': 'Слить DMS 7-fold (preprint fig. S1B) с 2.2-fold (Science fig. S1B) как одну цифру класса.', 'source': 'PAPER', 'locator': 'preprint vs Science fig. S1B'}
• {'text': 'Подменить ELISA IC50 / single-point 1 nM / LDA ρ за SPR $K_d$.', 'source': 'INTERPRETATION'}
• {'text': 'Library misspecification: оптимизировать сайты вне $\\mathcal{X}$; ждать de novo paratope.', 'source': 'INTERPRETATION'}
• {'text': 'Makowski OneHot на новых CDR sites; или UniRep без Blosum62 (affinity p=0.41).', 'source': 'PAPER', 'locator': 'Blosum62 ablation'}
• {'text': 'Утечка: подать 125 Sanger clones в train 4000 и назвать ρ=0.87 обобщением (авторы держали их out-of-train).', 'source': 'PAPER', 'locator': 'none of these 125 in 4000'}
• {'text': 'Truncation: number_of_variants=12 принять за биологический batch; round-0 medoids принять за default (не winner).', 'source': 'CODE'}
• {'text': 'Exploitation collapse: RF не может предсказать выше max train y без новых extreme labels (Eq. 6).', 'source': 'PAPER', 'locator': 'Science Eq. (6)'}
• {'text': 'Считать AF3/MOE причиной gain-of-function. Считать 100-fold T7 свойством antibody maturation.', 'source': 'INTERPRETATION'}
• {'text': 'Сравнивать Makowski 37% dual-improved с EVOLVEpro 35-fold aCD71 как один leaderboard.', 'source': 'INTERPRETATION'}

16. Реализации в инструментах

[MATRIX]Reverse index architecture_id: few-shot-mutation-optimization: ровно два catalog tools. Неравные объекты не ставить в одну колонку «успех». Foundational Low-N (Biswas 2021) — pointer, не карточка.

17. Где применимо и где не применимо

[MATRIX]Применимо, когда есть parent, определимая $\mathcal{X}$ и возможность собрать experimental labels: few-shot AL, ML-guided DE, affinity maturation few-shot ветка, combinatorial mutation, off-target при panel $y$.

[MATRIX]Workflow few-shot / labelled mutation включает оба tools. specificity в каталоге вешает Makowski на MOO-id; dual labels всё равно few-shot mutation protocol — не решать specificity zero-shot $\Delta\ell$.

[MATRIX]Запрет: de novo antibody design — RFantibody / joint sequence–structure, не этот класс. de novo backbone — RFdiffusion. seed not_for_task_ids de-novo-antibody-design

[MATRIX]Запрет: нет labels — zero-shot mutation scoring (ESM-1v, structural evolution). Inverse folding при готовом backbone — ProteinMPNN / AntiFold.

[INTERPRETATION]Запрет: выдавать $\hat y$/LDA за $K_d$. Запрет: humanization CNN (Humatch) как few-shot affinity. Запрет: BindCraft AF2 filters как parent-library ELISA loop.

[INTERPRETATION]Нельзя этим решать codon optimization / CHO titer / novel topology paratope. Нельзя сравнивать Romero $T_{50}$ P450, Makowski EC50 emibetuzumab и Science aCD71 19 pM как один успех.

[INTERPRETATION]Если нужен явный explore/exploit с $\sigma$ — класс BO, не released EVOLVEpro. Если нужен одновременный trade-off без итераций AL — смотреть MOO-страницу Makowski плюс эта.

[MATRIX]VHH: Makowski «Not shown»; EVOLVEpro catalog VHH_relevance null. Не утверждать кампанию VHH. tools/*.yaml VHH_relevance

18. Методологические источники

[PAPER]Primary класса: Jiang bioRxiv 10.1101/2024.07.17.604015 прочитан HTML; Jiang Science 10.1126/science.adr6006 прочитан HTML Results+Methods summary. Preprint и journal не silent-merge. Catalog paper-evolvepro указывает Science DOI.

[PAPER]Второй catalog primary: Makowski Nat. Commun. 10.1038/s41467-022-31457-3 прочитан HTML Methods+Results. SI PDF и GitHub — pointer/inaccessible line-audit. Не приравнивать к EVOLVEpro.

[CODE]CODE EVOLVEpro commit 1c77697 инспектирован (model.py top_layer, evolve.py evolve_experimental). Makowski Tessier-Lab — не инспектирован. sklearn docs — DOC для имён API, не для science claims. commit 1c77697d0c09bf6989a1562a55da99301a12e2cd

[PAPER]Pointer-only, не библиография «всего MLDE»: Biswas Low-N 2021; Alley UniRep 2019; Yang/Wu MLDE reviews; Hie efficient evolution (zero-shot comparator Science Fig. 2). Уравнения этих работ на эту страницу не переносились, кроме явных цитат Jiang/Makowski. Science cites 15 = Hie; 29–30 UniRep/Biswas

Инструменты, использующие подход

Где применимо

Где не стоит использовать

Papers каталога