象似性词汇与手势的多模态关联:基于大规模电视新闻语料库的实证研究

时间:2025年8月6日
来源:Cognitive Science

编辑推荐:

这篇开创性研究通过分析5725个电视新闻语料样本,首次证实英语中高象似性(iconicity)词汇(如"swoosh")比低象似性词汇(如"ordain")更易伴随象似性手势(iconic gestures)产生(69% vs 56%)。研究创新性地发现动词的象似性效应强于形容词,且该关联独立于感知运动强度(sensorimotor strength),为语言多模态表征理论提供了重要证据。

广告
   X   

象似性词汇与手势的多模态关联研究

背景与理论框架

传统语言学观点认为口语词汇具有任意性,而手势则具有象似性特征。这种观点将语言视为描述性工具,手势作为描绘性工具,形成所谓的"符号分工"(semiotic division of labor)。然而近年研究发现,英语等语言中存在大量被母语者判定为象似性的词汇,如拟声词"swoosh"和触觉词"puffy"。这引发了对语言多模态本质的新思考:象似性是否可能同时体现在语音和手势两个层面?

研究方法设计

研究团队从TV News Archive电视新闻档案库中选取48个搜索词(24个高象似性词,24个低象似性词),这些词汇在感知强度、词性和音节长度方面进行了平衡。通过严格的筛选标准,最终获得1546个有效语料样本。采用贝叶斯逻辑回归模型分析手势产生概率,并控制词频等干扰因素。为确保编码可靠性,由两名独立编码员完成手势标注,Cohen's kappa系数显示编码一致性良好(手势判定k=0.77,象似性手势判定k=0.63)。

主要研究发现

数据分析显示,高象似性词汇的整体手势产生率为69%,显著高于低象似性词汇的56%。特别值得注意的是,高象似性词汇的象似性手势比例达到24%,是低象似性词汇(11%)的两倍多。这种差异在动词中表现得尤为突出,高象似性动词的象似性手势比例(31%)是低象似性动词(10%)的三倍,而形容词的差异则不明显。

动态概念的关键作用

研究揭示了动词象似性效应强于形容词的现象,这与动词表达动态概念的特性密切相关。例如低象似性动词"put"仍具有43%的象似性手势率,因其表达的动作概念易于手势表征。这一发现支持了"手势作为模拟行动"(Gesture as Simulated Action, GSA)理论,即动态概念更易激活运动模拟系统。

形态句法行为的影响

深入分析发现,当高象似性词汇以插入语形式出现、被重复使用或处于从句边缘位置时,其伴随象似性手势的概率显著提高。例如重复使用的象似性词汇手势率高达89%,远高于非重复情况(76%)。这与跨语言研究中发现的表意文字(ideophones)使用模式高度一致。

理论意义与应用价值

该研究首次通过大规模实证数据证实了英语词汇象似性的心理现实性,挑战了传统语言学关于语言任意性的核心假设。研究发现为多模态语言处理模型提供了重要证据,对语言习得、言语障碍干预等领域具有启示意义。特别值得注意的是,研究证实词汇象似性比感知运动强度更能预测象似性手势产生,这一发现深化了我们对语言-手势整合机制的理解。

生物通微信公众号
微信
新浪微博


生物通 版权所有