超越诺奖？首次实现从零合成全新蛋白！

人工智能的应用，已经极大地加速了蛋白质工程的研究。
最近，加州伯克利的一家初出茅庐的初创公司再次取得了惊人的进步。
AI 首次成功从头生成原始蛋白质
科学家们采用类似 ChatGPT 的蛋白质工程深度学习语言模型——Progen，首次实现了 AI 预测蛋白质的合成。
这些蛋白质不仅与已知的完全不同，相似度最低的甚至只有 31.4%，但和天然蛋白一样有效。
现在，这项工作已经正式发表于nature biotechnology，题为 “large language models generate functional protein sequences across diverse families”。这个实验也表明，自然语言处理虽然是为读写语言文本而开发的，但它也可以学习生物学的一些基本原理。
论文地址：https://www.nature.com/articles/s41587-022-01618-2
比肩诺奖的技术
对此，研究人员表示，这项新技术可能会变得比定向进化（获得诺贝尔奖的蛋白质设计技术）更加强大。
「它将通过加快开发可用于从治疗剂到降解塑料等几乎所有用途的新蛋白质，为有 50 年历史的蛋白质工程领域注入活力。」
这家公司名叫 Profluent，由前 Salesforce AI 研究负责人创立，已获得 900 万美元的启动资金，用于建立一个集成的湿实验室，并招募机器学习科学家和生物学家。
以往，在自然界中挖掘蛋白质，或者调整蛋白质到所需功能，都十分费力。Profulent 的目标是，让这个过程变得毫不费力。
他们做到了。
Profluent 创始人兼 CEO Ali Madani
Madani 在采访中表示，Profulent 已经设计出了多个家族的蛋白质。这些蛋白质的功能与样本蛋白（exemplar proteins）一样，因此是具有高活性的酶。
这项任务非常困难，是以 zero-shot 的方式完成的，这意味着并没有进行多轮优化，甚至根本不提供实验室的任何数据。
而最终设计出的蛋白质，是通常需要数百年才能进化出来的高活性蛋白质。
基于语言模型的 ProGen
作为深度神经网络的一种，条件语言模型不仅可以生成语义和语法正确且新颖多样的自然语言文本，而且还可以利用输入控制标签来指导风格、主题等等。
类似的，研究人员开发出了今天的主角—— ProGen，一个 12 亿参数的条件蛋白质语言模型。
具体来说，基于 Transformer 架构的 ProGen 通过自注意机制来模拟残基的相互作用，并且可以根据输入控制标签生成不同的跨蛋白质家族的人工蛋白质序列。
用条件语言模型生成人工蛋白质
为了创建这个模型，研究人员喂了 2.8 亿种不同蛋白质的氨基酸序列，并让它「消化」了几周的时间。
接着，他们又用五个溶菌酶家族的 56,000 个序列以及关于这些蛋白质的信息，对模型进行了微调。
Progen 的算法与 ChatGPT 背后的模型 GPT3.5 类似，它学习到了蛋白质中氨基酸排序的规律，以及它们与蛋白结构和功能的关系。
很快，模型就生成了一百万个序列。
根据与天然蛋白质序列的相似程度，以及氨基酸「语法」和「语义」的自然程度，研究人员选择了 100 个进行测试。
其中，有 66 个产生了与消灭蛋清和唾液中细菌的天然蛋白质类似的化学反应。
也就是说，这些由 AI 生成的新蛋白质也可以杀死细菌。
生成的人工蛋白是多样化的，且在实验系统中表达良好
更进一步，研究人员选择了反应最强烈的五种蛋白质，并将它们加入到大肠杆菌的样本中。
其中，有两种人工酶能够分解细菌的细胞壁。
通过与鸡蛋白溶菌酶（HEWL）进行比较可以发现，它们的活性与 HEWL 相当。
随后，研究人员又用 X 射线进行了成像。
尽管人工酶的氨基酸序列与现有的蛋白质有高达 30% 的差异，二者之间也只有 18% 是相同的，但它们的形状却与自然界的蛋白质相差无几，而且功能也可以与之媲美。
条件语言建模对其他蛋白质系统的适用性
除此之外，对于高度进化的天然蛋白质来说，可能只需一个小小突变就会让它停止工作。
但研究人员在另一轮筛选中发现，在 AI 生成的酶中，即使只有 31.4% 的序列与已知蛋白质相同，也能表现出相当的活性以及类似的结构。
蛋白质设计，进入新时代
可以看到，ProGen 的工作方式与 ChatGPT 很类似。
ChatGPT 通过学习海量数据，可以参加 MBA 和律师考试、撰写大学论文。
而 ProGen 通过学习氨基酸如何组合成 2.8 亿个现有蛋白质的语法，学会了如何生成新的蛋白质。
在采访中，Madani 表示，「就像 ChatGPT 学习英语之类的人类语言一样，我们是在学习生物和蛋白质的语言。」
「人工设计蛋白质的性能比受进化过程启发的蛋白质要好得多，」论文作者之一、加州大学旧金山分校药学院生物工程和治疗科学教授 James Fraser 说。
「语言模型正在学习进化的各个方面，但它与正常的进化过程不同。我们现在有能力调整这些特性的产生，以获得特定效果。比如，让一种酶具有令人难以置信的热稳定性，或嗜好酸性环境，或者不会与其他蛋白质相互作用。」
早在 2020 年，Salesforce Research 就开发了 ProGen。它基于的自然语言编程，最初用于生成英语文本。
从之前的工作中，研究者们了解到，人工智能系统可以自学语法和单词的含义，以及其他使写作井井有条的基本规则。

「当你用大量数据训练基于序列的模型时，它们在学习结构和规则上的表现非常强大，」Salesforce Research 人工智能研究总监、论文的资深作者 Nikhil Naik 博士说，「它们会了解哪些词可以同时出现，该怎样组合。」
「现在，我们已经证明了 ProGen 有能力生成新的蛋白质，并进行了公开发布，所有人都可以在我们的基础上进行研究。」
作为蛋白质的溶菌酶虽然非常小，最多有约 300 个氨基酸。
但是有 20 种可能的氨基酸，就有 20^300 种可能的组合。
这比古往今来的所有人类，乘以地球上沙粒的数量，再乘以宇宙中的原子数量的积还要多。
考虑到这近乎无限的可能性，Progen 能够如此轻松地设计出有效的酶，确实很了不起。
Profluent Bio 创始人、Salesforce Research 前研究科学家 Ali Madani 博士说：「开箱即用地从头开始生成功能性蛋白质的能力，表明我们正在进入蛋白质设计的新时代。」
「这是所有蛋白质工程师都可以使用的多功能新工具，我们期待看到它被应用于治疗。」
与此同时，研究人员仍在继续改进 ProGen，试图突破更多的限制和挑战。
其中之一便它非常地依赖数据。
「我们已经探索了通过加入基于结构的信息来改善序列的设计，」Naik 说，「我们还在研究当你没有太多关于某个特定蛋白质家族或领域的数据时，如何提高模型的生成能力。」
值得注意的是，还有一些初创公司也在尝试相似的技术，比如 Cradle，以及自生物技术孵化器 Flagship Pioneering 的 Generate Biomedicines，不过这些研究都还未经过同行评审。
参考资料：
https://www.newscientist.com/article/2356597-ai-has-designed-bacteria-killing-proteins-from-scratch-and-they-work/
https://www.sciencedaily.com/releases/2023/01/230126124330.htm人工智能的应用，已经极大地加速了蛋白质工程的研究。