搜索：语言世界模型

「语言世界模型」共找到 8161 篇相关文章

突破单token预测局限！南洋理工首次将多token预测引入微调，编程任务准确率提升11.67%

当前主流大语言模型依赖下一token预测训练，难理解跨多token完整概念。南洋理工大学提出概念感知微调（CAFT）技术，首次将多token预测引入微调，能让模型理解完整概念，多领域实验显示其可显著提升模型性能。

近年来，大语言模型在复杂推理任务中面临挑战，强化学习虽更接近人类推理过程，但训练“烧资源”。论文《QeRL》提出量化不仅能压缩模型、节省资源，还能增强模型探索能力，QeRL框架实现训练速度提升、内存占用减半。

2025智源大会上，面壁智能发布MiniCPM 4.0模型，实现行业首个系统级上下文稀疏语言模型创新。它在端侧推理任务上表现出色，降低缓存需求，提高运行效能，还进行多维度架构创新，是AI领域探索高效率语言模型的里程碑。

UIUC Ge Liu团队发布《LangFlow: Continuous Flow Matching for Large Language Models》，回归连续扩散架构。研究指出连续扩散受挫非先天缺陷，经优化，LangFlow让连续扩散在标准基准追平离散扩散，为多模态统一架构打通底层路线。

人工智能改变赚钱和花钱方式，生成式AI每年或为全球经济增2.6 - 4.4万亿美元。文章介绍LLM在多领域应用，如客服降成本、内容创作提效率等，企业应积极拥抱技术革命。

大模型运行成本高，普通用户用不起。传统小模型模仿大模型解题步骤易出错。论文提出Agent蒸馏，让小模型学会用检索和代码工具，还加首思前缀与自我纠错“外挂”，使小模型性能直逼大模型。

在英伟达2026年GTC大会嘉宾中，杨植麟是唯一来自独立大模型创业公司的代表。过往黄仁勋邀人有“风口预言术”，此次选杨植麟，或因他搞出K2.5、死磕推理效率，能给英伟达讲新故事。

阿里云蒋林泉与钛媒体刘湘明在云栖大会展开《AI大模型时代老板必修课》对谈，围绕企业AI落地多方面关键议题交流。探讨了CIO角色进化、AI业务价值界定、企业战略制定等内容，为决策者提供实践指南。

谷歌给Gemma 4家族更新Multi - Token Prediction推测解码架构，推理速度最高提升3倍且输出质量不变。介绍了LLM推理慢的原因、MTP解决办法、对开发者的利好、技术细节、使用方式等。

近期《Science》研究表明可解析AI内部表征实现通用引导与监控。浙大联合阿里两篇ACL 2026主会论文，揭示Steering工作原理与能力边界，还开源一站式框架EasyEdit2，全面展示了Steering价值。