HuggingFaceBio 发布 Carbon-X DNA 语言模型
先了解这件事
Hugging Face 团队发布 14B 模型 Carbon-X,将 DNA 与自然语言结合。据其介绍,该模型在测试过的 DNA 基准上超过所有开源语言模型,与 GPT-6.1 Sol 相差不到 1 分,推理成本低 1000 倍以上;训练先用 300B token 的 DNA 与文本交错数据做中期训练,再做 SFT(未用蒸馏)和 RL;新的混合 tokenizer 编码 DNA 所用 token 数比 BPE 少约 3 倍。 该模型以 Apache 2.0 许可发布,可在笔记本上用 llama.cpp 本地运行。其他模型可把它当作 DNA 专家子代理,Kimi K3 调用后提升 11.1 分。 Jason Kelly 转发该发布并评论,认为当下技术与生物的交叉比合成生物学时代推进更快,原因是大科技公司正在投入。
AI 根据报道生成 · 1 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- Jason Kelly精选Hugging Face 团队发布 14B 模型 Carbon-X,打通 DNA 与自然语言
Hugging Face 团队发布 Carbon-X,一个把 DNA 与自然语言结合起来的 14B 模型。据其介绍,该模型在测试过的 DNA 基准上超过所有开源语言模型,与 GPT-6.1 Sol 相差不到 1 分,推理成本低 1000 倍以上;训练上先用 300B token 的 DNA 与文本交错数据做中期训练,再做 SFT(未用蒸馏)和 RL;新的混合 tokenizer 编码 DNA 所用 token 数比 BPE 少约 3 倍;其他模型可把它当作 DNA 专家子代理,Kimi K3 调用后提升 11.1 分;模型以 Apache 2.0 许可发布,可在笔记本上用 llama.cpp 本地运行。Jason Kelly 转发该发布并评论,认为当下技术与生物的交叉比合成生物学时代推进更快,原因是大科技公司正在投入。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。