Claude 如何提升生物分子建模能力

📌 One-Sentence Summary Anthropic 展示了 Claude 如何优化 30 多个开源生物分子模型，实现平均 4 倍的加速，并支持在单个 GPU 节点上对大规模分子系统进行建模。 📝 Summary Anthropic 利用 Claude 显著优化了 30 多个用于生物分子建模（包括结构预测和蛋白质设计）的开源深度学习模型的性能和内存效率。通过开发「FlashPairformer」自定义内核并应用针对特定模型的优化，Claude 将推理时间平均缩短了约 4 倍。此外，低内存「Big」模式的引入使得在单个 NVIDIA GPU 节点上能够准确预测超过 10，000 个 token 的生物分子系统，而此前该任务需要多节点基础设施。这些优化使得从头开始的蛋白质结合剂设计能够以比之前方法少两个数量级的 GPU 小时数实现高性能设计。Anthropic 正在开源优化后的代码，并与 Adaptyv Bio 共同发起蛋白质设计竞赛，以进一步加速科学发现。 💡 Main Points Claude 通过自定义内核和特定优化显著加速了生物分子模型。 Claude 开发了「FlashPairformer」内核来优化结构预测中最昂贵的运算——三角注意力（triangle attention）和乘法，其性能最高可超过行业标准 3.2 倍，并在 30 多个模型中实现了平均 4 倍的整体加速。 「Big」模式的开发使得在单节点硬件上对前所未有的大规模生物分子系统进行建模成为可能。 通过降低内存占用，Claude 实现了在单个 NVIDIA GPU 节点上对超过 10，000 个 token 的系统（例如人类线粒体复合体 I 和细菌核糖体）进行准确推理，其泛化能力超出了训练上下文近 1.5 个数量级。 推理优化大幅降低了从头开始蛋白质设计的成本和资源门槛。 使用优化后的模型，单个 Claude 模型在实现与之前项目相当的计算机模拟结合评分（ipSAE）的同时，所使用的 GPU 小时数减少了约 100 倍，且 token 成本显著降低。 Anthropic 通过开源代码和高额奖励的设计竞赛促进社区增长。 为了让这些工具普及化，Anthropic 开源了优化代码，并与 Adaptyv Bio 合作举办竞赛，提供 100 万美元的额度以及针对 5，000 多个设计的湿实验验证。 💬 Key Quotes Claude 在 Claude Science 团队的协作下，在不到四周的时间里优化了 30 多个模型，平均加速约 4 倍。 Claude 创建了一种低内存的「Big」模式，能够对超过 10，000 个 token 的系统进行准确建模，并仅使用一个 NVIDIA GPU 节点在超过 70，000 个 token 的系统上成功实现推理。 我们的结果表明，前沿 AI 模型将帮助该领域的其他研究人员更快速、更轻松地构建科学工具。 一个能够访问一台 NVIDIA H200 且拥有 24 小时运行时间的单个 Claude 模型，设计出了与我们早期的 Mythos 5.1 项目相当的计算机模拟结合评分的从头蛋白质结合剂……而后者使用了约 100 倍的 GPU 小时数。 📊 Article Meta AI Screening： 90 Featured： Yes Source： Anthropic Research Author： Anthropic Research Category： 人工智能 Language： 英文 Read Time： 9 min Word Count： 2224 Tags： AI 与智能应用 , 性能优化 , 大语言模型 (LLM) , 机器学习 , LLM 推理优化 Read Full Article