Caloogy 文章
English

DNA 语言模型:读懂基因组的"语法"

日期
2025 年 8 月 23 日
系列
科学
阅读
4 分钟
主题
Ai scienceGenomicsDnaLanguage model

一句话版本

DNA 是一串由 A、C、G、T 四个字母写成的、长达几十亿字母的"文本"。既然大语言模型能从海量文字中学会语法和语义,那么用同样的方法在海量基因组序列上做预训练,模型能不能学会基因组的"语法":哪里是基因、哪里控制基因开关、哪个突变是有害的? 近几年的 DNA 语言模型(如 Nucleotide Transformer、Evo、Evo 2)和基因组序列到功能的预测模型(如 Enformer、AlphaGenome)给出了相当积极的答案,甚至开始尝试生成新的功能性 DNA 序列。

关于时效

本文按截至写作时的公开资料整理,未逐项联网核对。


第一层:通俗理解

1.1 一本没有标点的书

人类基因组约 30 亿个碱基对,写下来相当于几千本厚书,全是 A、C、G、T,没有空格、没有标点、没有章节标题。

我们知道其中:

1.2 像学语言一样学 DNA

自然语言模型 DNA 语言模型
语料:互联网文本 语料:成千上万个物种的基因组
学会:语法、语义、常识 学会:基因结构、调控元件、进化保守的模式
任务:预测下一个(或被遮住的)词 任务:预测下一个(或被遮住的)碱基
应用:回答问题、生成文本 应用:判断突变是否有害、注释基因组、设计新序列

一个关键的思想是:进化本身就是一个巨大的"实验"。在数十亿年的进化中保存下来的序列模式,往往是有功能的;而模型如果认为某个突变"很不像正常的 DNA",那么这个突变很可能有害。


第二层:代表性工作

模型 机构 / 时间 要点
DNABERT 2021 把 BERT 的遮盖预训练方法用于 DNA
Enformer DeepMind,2021 不是纯语言模型,而是从序列直接预测基因表达和表观信号的模型,能看约 20 万碱基的上下文,显著提升了远端调控元件的预测
Nucleotide Transformer InstaDeep 等,2023 在数千个人类基因组和数百个物种基因组上预训练的大模型
HyenaDNA、Caduceus 等 2023–2024 用非注意力的长序列架构,把上下文推到百万级碱基
Evo Arc Institute 等,2024 年发表于 Science 在大量原核生物和噬菌体基因组上训练的生成模型,能处理 DNA、RNA、蛋白质多个层次;生成了经实验验证有功能的 CRISPR 系统和转座子
Evo 2 Arc Institute 与英伟达等,2025 规模扩大到数百亿参数、训练数据涵盖生命之树上的大量物种(包括真核生物),上下文约百万碱基;在不经专门训练的情况下预测人类基因(如 BRCA1)突变的致病性表现良好;以开源方式发布
AlphaGenome DeepMind,2025 输入约一百万碱基的序列,同时预测数千种功能信号(基因表达、剪接、染色质可及性、三维接触等),用于评估非编码突变的影响

第三层:应用、局限与风险

3.1 应用

应用 说明
变异效应预测 病人的基因测序会发现成千上万个变异,其中大部分"意义不明"。模型可以帮助排序哪些最可能致病
基因组注释 新测序的物种基因组,快速识别基因和调控元件
非编码区研究 理解占基因组绝大多数的非编码区如何调控基因
合成生物学 设计启动子、增强子,精确控制基因在特定细胞中的表达;生成新的功能元件
与蛋白质模型结合 DNA → RNA → 蛋白质的完整链条(参见《AlphaFold与蛋白质结构预测》)

3.2 局限

局限 说明
"像正常 DNA"不等于"功能正常" 模型的打分主要反映进化上的常见程度,与真实生物学效应只是相关
细胞类型特异性 同一段 DNA 在不同细胞中作用不同,纯序列模型难以捕捉
长程相互作用 调控元件可以离基因几十万甚至上百万碱基远;上下文长度仍是瓶颈
人类数据的多样性 训练数据中某些人群的基因组代表性不足,可能导致预测在不同人群中准确度不同
实验验证 生成的序列必须经过湿实验验证,目前的验证规模远小于生成规模

3.3 生物安全

能"写"DNA 的模型带来了双重用途的担忧:理论上可能被用于设计有害的生物序列。负责任的做法包括:


总结

层次 要点
思路 把基因组当作语言做预训练;进化保守 = 功能线索
代表 Enformer、Nucleotide Transformer、Evo / Evo 2、AlphaGenome
应用 变异致病性预测、非编码区理解、合成生物学
局限与风险 相关不等于因果、细胞特异性、长程调控、人群偏差、生物安全