跳到正文
热点事件持续更新

研究:Transformer难复现人脑句子结构表征

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

一项发表于 eLife 的 7T fMRI 研究称,基于 transformer 的大语言模型在表征需要语序和语义角色(谁对谁做了什么)的句子时,与人脑语言区的表征匹配较差。研究分析 30 名参与者各阅读 108 个句子的脑活动,用表征相似性分析比较 8 个 transformer 和 11 个其他语义模型与语言区脑活动的对应关系。 结果显示,transformer 整体优于完全忽略词序的模型,但显著不如显式编码词间结构关系的模型。作者据此强调句子结构在人脑句子表征中的关键作用,并对 transformer 与人脑以相似方式表征句子含义的说法提出质疑。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月23日
  1. eLife
    研究:大语言模型难以复现人脑对语序与句子结构的表征

    一项基于 7T fMRI 的研究发现,基于 transformer 的大语言模型在表征需要语序和语义角色(谁对谁做了什么)的句子时,与人脑语言区的表征匹配较差。研究分析了 30 名参与者各阅读 108 个句子的脑活动,这些句子经过设计以区分句子结构与词义;作者用表征相似性分析比较了 8 个 transformer 和 11 个其他语义模型与语言区脑活动的对应关系。结果显示,transformer 整体优于完全忽略词序的模型,但显著不如显式编码词间结构关系的模型。作者据此强调句子结构在人脑句子表征中的关键作用,并对 transformer 与人脑以相似方式表征句子含义的说法提出质疑。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。