Cartesia 推出 H-Net 新版本，可从原始核苷酸自学习 DNA 分词

Hani Goodarzi 分享了 Albert Gu 介绍的 Cartesia H-Net 新版本，并提到自己今年早些时候曾与 Gu 合作开发 dnaHNet。Gu 称 H-Net 是分层网络（H-Nets）的迭代，在受控的 scaling law 实验中效率提升 3-5 倍，在更大规模下用约 10 倍更少的数据和算力达到与在 11T tokens 上训练的开源模型相当的水平。Goodarzi 补充说，H-Net 从原始核苷酸自学习分词，在 prokaryotes 上训练后零样本在人类基因的密码子边界处切分，并在 tRNA 中降到单字母，计算效率约高 6 倍。