研究:Transformer难复现人脑句子结构表征
热点事件持续更新
研究:Transformer难复现人脑句子结构表征
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
一项发表于 eLife 的 7T fMRI 研究称,基于 transformer 的大语言模型在表征需要语序和语义角色(谁对谁做了什么)的句子时,与人脑语言区的表征匹配较差。研究分析 30 名参与者各阅读 108 个句子的脑活动,用表征相似性分析比较 8 个 transformer 和 11 个其他语义模型与语言区脑活动的对应关系。 结果显示,transformer 整体优于完全忽略词序的模型,但显著不如显式编码词间结构关系的模型。作者据此强调句子结构在人脑句子表征中的关键作用,并对 transformer 与人脑以相似方式表征句子含义的说法提出质疑。
AI 根据报道生成 · 2 小时前更新
最新进展10月23日 18:40
研究:大语言模型难以复现人脑对语序与句子结构的表征报道时间线
沿着报道,了解事件的不同侧面。
10月23日
- eLife研究:大语言模型难以复现人脑对语序与句子结构的表征
一项基于 7T fMRI 的研究发现,基于 transformer 的大语言模型在表征需要语序和语义角色(谁对谁做了什么)的句子时,与人脑语言区的表征匹配较差。研究分析了 30 名参与者各阅读 108 个句子的脑活动,这些句子经过设计以区分句子结构与词义;作者用表征相似性分析比较了 8 个 transformer 和 11 个其他语义模型与语言区脑活动的对应关系。结果显示,transformer 整体优于完全忽略词序的模型,但显著不如显式编码词间结构关系的模型。作者据此强调句子结构在人脑句子表征中的关键作用,并对 transformer 与人脑以相似方式表征句子含义的说法提出质疑。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。