scLong：10亿参数单细胞基础模型

scLong 作者团队提出约 10 亿参数的单细胞基础模型 scLong，基于 48,024,242 个细胞预训练，可同时建模 27,874 个基因。预训练数据来自 CELLxGENE、Cell Blast 和 Human Cell Atlas 的公开单细胞转录组数据。 该团队同时指出模型的三项限制：十亿参数的训练和推理仍需大量算力，缺乏高性能基础设施的团队难以使用；模型依赖 Gene Ontology 中静态、预定义的基因关系，难以适应动态的基因互作和条件特异性调控变化；双编码器表现对高、低表达基因的划分阈值（4,096）较敏感，阈值选择不当可能在基因表达分布异常的细胞类型上得到次优表示。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。