一句话版本
DNA 是一串由 A、C、G、T 四个字母写成的、长达几十亿字母的"文本"。既然大语言模型能从海量文字中学会语法和语义,那么用同样的方法在海量基因组序列上做预训练,模型能不能学会基因组的"语法":哪里是基因、哪里控制基因开关、哪个突变是有害的? 近几年的 DNA 语言模型(如 Nucleotide Transformer、Evo、Evo 2)和基因组序列到功能的预测模型(如 Enformer、AlphaGenome)给出了相当积极的答案,甚至开始尝试生成新的功能性 DNA 序列。
关于时效
本文按截至写作时的公开资料整理,未逐项联网核对。
第一层:通俗理解
1.1 一本没有标点的书
人类基因组约 30 亿个碱基对,写下来相当于几千本厚书,全是 A、C、G、T,没有空格、没有标点、没有章节标题。
我们知道其中:
- 只有约 1–2% 直接编码蛋白质("基因");
- 其余部分大量参与调控:决定哪个基因在什么细胞、什么时候、开多大;
- 疾病相关的突变,很多就落在这些调控区域里,但我们很难读懂它们的作用。
1.2 像学语言一样学 DNA
| 自然语言模型 | DNA 语言模型 |
|---|---|
| 语料:互联网文本 | 语料:成千上万个物种的基因组 |
| 学会:语法、语义、常识 | 学会:基因结构、调控元件、进化保守的模式 |
| 任务:预测下一个(或被遮住的)词 | 任务:预测下一个(或被遮住的)碱基 |
| 应用:回答问题、生成文本 | 应用:判断突变是否有害、注释基因组、设计新序列 |
一个关键的思想是:进化本身就是一个巨大的"实验"。在数十亿年的进化中保存下来的序列模式,往往是有功能的;而模型如果认为某个突变"很不像正常的 DNA",那么这个突变很可能有害。
第二层:代表性工作
| 模型 | 机构 / 时间 | 要点 |
|---|---|---|
| DNABERT | 2021 | 把 BERT 的遮盖预训练方法用于 DNA |
| Enformer | DeepMind,2021 | 不是纯语言模型,而是从序列直接预测基因表达和表观信号的模型,能看约 20 万碱基的上下文,显著提升了远端调控元件的预测 |
| Nucleotide Transformer | InstaDeep 等,2023 | 在数千个人类基因组和数百个物种基因组上预训练的大模型 |
| HyenaDNA、Caduceus 等 | 2023–2024 | 用非注意力的长序列架构,把上下文推到百万级碱基 |
| Evo | Arc Institute 等,2024 年发表于 Science | 在大量原核生物和噬菌体基因组上训练的生成模型,能处理 DNA、RNA、蛋白质多个层次;生成了经实验验证有功能的 CRISPR 系统和转座子 |
| Evo 2 | Arc Institute 与英伟达等,2025 | 规模扩大到数百亿参数、训练数据涵盖生命之树上的大量物种(包括真核生物),上下文约百万碱基;在不经专门训练的情况下预测人类基因(如 BRCA1)突变的致病性表现良好;以开源方式发布 |
| AlphaGenome | DeepMind,2025 | 输入约一百万碱基的序列,同时预测数千种功能信号(基因表达、剪接、染色质可及性、三维接触等),用于评估非编码突变的影响 |
第三层:应用、局限与风险
3.1 应用
| 应用 | 说明 |
|---|---|
| 变异效应预测 | 病人的基因测序会发现成千上万个变异,其中大部分"意义不明"。模型可以帮助排序哪些最可能致病 |
| 基因组注释 | 新测序的物种基因组,快速识别基因和调控元件 |
| 非编码区研究 | 理解占基因组绝大多数的非编码区如何调控基因 |
| 合成生物学 | 设计启动子、增强子,精确控制基因在特定细胞中的表达;生成新的功能元件 |
| 与蛋白质模型结合 | DNA → RNA → 蛋白质的完整链条(参见《AlphaFold与蛋白质结构预测》) |
3.2 局限
| 局限 | 说明 |
|---|---|
| "像正常 DNA"不等于"功能正常" | 模型的打分主要反映进化上的常见程度,与真实生物学效应只是相关 |
| 细胞类型特异性 | 同一段 DNA 在不同细胞中作用不同,纯序列模型难以捕捉 |
| 长程相互作用 | 调控元件可以离基因几十万甚至上百万碱基远;上下文长度仍是瓶颈 |
| 人类数据的多样性 | 训练数据中某些人群的基因组代表性不足,可能导致预测在不同人群中准确度不同 |
| 实验验证 | 生成的序列必须经过湿实验验证,目前的验证规模远小于生成规模 |
3.3 生物安全
能"写"DNA 的模型带来了双重用途的担忧:理论上可能被用于设计有害的生物序列。负责任的做法包括:
- 训练数据中排除特定的病原体(例如 Evo 2 的训练数据就排除了感染真核生物的病毒);
- 发布前进行安全评估;
- DNA 合成公司对订单进行筛查。
总结
| 层次 | 要点 |
|---|---|
| 思路 | 把基因组当作语言做预训练;进化保守 = 功能线索 |
| 代表 | Enformer、Nucleotide Transformer、Evo / Evo 2、AlphaGenome |
| 应用 | 变异致病性预测、非编码区理解、合成生物学 |
| 局限与风险 | 相关不等于因果、细胞特异性、长程调控、人群偏差、生物安全 |