Jason Kelly· jrkelly·· 2 小时前精选AI 评分82
Hugging Face 团队发布 14B 模型 Carbon-X,打通 DNA 与自然语言
Very fun right now to see the intersection of tech and bio. It's moving even faster now than in the synthetic biology era since the big ...
AI 导读
Hugging Face 团队发布 Carbon-X,一个把 DNA 与自然语言结合起来的 14B 模型。据其介绍,该模型在测试过的 DNA 基准上超过所有开源语言模型,与 GPT-6.1 Sol 相差不到 1 分,推理成本低 1000 倍以上;训练上先用 300B token 的 DNA 与文本交错数据做中期训练,再做 SFT(未用蒸馏)和 RL;新的混合 tokenizer 编码 DNA 所用 token 数比 BPE 少约 3 倍;其他模型可把它当作 DNA 专家子代理,Kimi K3 调用后提升 11.1 分;模型以 Apache 2.0 许可发布,可在笔记本上用 llama.cpp 本地运行。Jason Kelly 转发该发布并评论,认为当下技术与生物的交叉比合成生物学时代推进更快,原因是大科技公司正在投入。
阅读原文
来源:Jason Kelly · x.com
推荐理由
Carbon-X 把 DNA 与自然语言放进同一个 14B 模型,并给出与闭源模型对比的推理成本,可看 DNA 基础模型的落地形态。