大模型“思考词”瞬间信息量飙升数倍

中国人民大学等团队研究表明，大模型推理存在“互信息峰值”现象，对应“思考词汇”，抑制“思考词汇”会影响推理性能。还提出表征循环和基于思考词汇的测试时扩展两种方法提升推理性能。