搜索：语言建模 - AI Reading Hub

「语言建模」共找到 1336 篇相关文章

「Next-Token」范式改变！刚刚，强化学习预训练来了

微软新研究提出「强化预训练（RPT）」新范式，将下一个 token 预测任务重新定义为推理任务，可利用海量文本数据进行通用强化学习。该方法有可扩展性、低风险等优点，实验显示其提升了语言建模能力。

腾讯微信 AI 联合清华提出连续自回归语言模型 CALM，它将语言建模为连续向量而非离散词元，显著改善性能与计算成本权衡，解决了 LLM 效率瓶颈，虽面临技术挑战但实验效果佳，还指明未来研究方向。

本文是对李飞飞的访谈编译。她指出语言模型在世界理解上有短板，空间智能是关键，还探讨了AI发展历程、世界模型重要性等，介绍其公司产品Marble，强调人人在AI时代都有位置。

作者结合黑帽大会英伟达演讲，指出大语言模型和编程智能体扩大攻击面。如攻击者利用公共资源留恶意指令，实施水坑攻击。强大编程智能体虽普及，但易造成安全漏洞，虽有防御措施但效果有限。

今天正式发布 Qwen-AgentWorld，它是首个原生语言世界模型，能在七大领域模拟智能体交互环境。同步发布 AgentWorldBench 评测基准。Qwen-AgentWorld 经三阶段训练，在评测中表现出色，还探索两种范式增强通用智能体能力。

字节会师何恺明，开源连续扩散语言模型Cola DLM，释出论文、代码等。该模型跳出离散token束缚，把生成过程交给连续空间，在实验中展现出稳定scaling趋势，其动机是表征而非diffusion。

Meta和Google合作的论文探讨现代语言模型对训练数据的“记忆”情况。研究发明新方法精确测量“记忆”量，发现模型记忆有上限且与参数线性相关，还揭示学习转折、隐私规律等重要结论。

2月5日，中科算网算泥社区发布《多模态大语言模型技术发展报告》。报告回顾多模态大模型发展历程，剖析核心技术创新，展示应用实践，分析挑战与机遇，为各界提供参考，推动多模态AI技术发展。

英伟达机器人主管Jim Fan判断，继“下一个词预测”后，世界建模将成新预训练范式，2026年大世界模型将为多模态AI奠基。他还讨论世界模型定义、应用，展望新推理形式，业内人士也各抒己见。

上海人工智能实验室推出多模态扩散语言模型 Lumina - DiMOO，它基于离散扩散建模，打破多模态任务壁垒。相比传统自回归架构模型，它解决了生成慢、质量受限等问题，在多项评测中夺魁。