搜索：预训练语言模型

「预训练语言模型」共找到 8422 篇相关文章

“代码 + 编译器”要消失了？马斯克在 xAI 全员会上放话：到今年年底，AI 或将直接生成二进制

xAI 近期出现离职潮，马斯克公开全员大会视频回应。他表示离职是阶段适配问题，还预测到 2026 年底 AI 或直接生成二进制，跳过编程。此外介绍了 xAI 新架构及各团队进展，强调基础设施重要性，甚至提及将算力扩展到月球。

Open - AutoGLM是能让手机自己干活的黑科技，给手机装了「AI打工人」。它整合视觉语言模型与ADB远程操控技术，适配50 + 款主流应用，自带安全边界，普通人易安装，开发者可自定义流程。

Andrej Karpathy提出不要把大语言模型看作实体，应视作模拟器。他建议探索话题时避免用‘你怎么看’提问，给出‘什么样的一群人适合探索，他们会怎么说’的更优策略，还指出不同领域影响有别。

多模态长文档视觉问答常见于科研论文等场景，现有技术路线有大视觉 - 语言模型直接端到端和检索增强生成，但各有缺点。MMRAG - DocQA引入新方案，解决多模态连接和跨页证据链接问题。

9月22日，联发科推出天玑9500芯片，展示新形态端侧AI应用，推动端侧AI实用化。其性能强、功耗低，还支持端侧模型训练。多家手机厂商将发布搭载该芯片的手机，展现新AI趋势。

清华大学联手MIT等机构提出「大语言模型+规划师」新框架，让AI作「智能规划助手」。框架含概念设计、方案生成、效果评估三阶段，实验显示AI表现超九成人类规划师，未来将人机协同。

英伟达推出通用深度研究（UDR）系统，支持个人定制，可接入任何大语言模型。它能解决现有深度研究智能体的局限性，有诸多创新特性，但目前还在原型阶段，存在一定局限性。

2017年《Attention Is All You Need》提出的Transformer是主流语言模型基础范式。Meta新论文提出旋转不变型三线性注意力机制，证明其表现能改变Scaling Law系数，还证实2 - simplicial Transformer在有限token预算下更优。

在大语言模型发展中，长文本建模挑战大。蚂蚁研究团队提出注意力机制GCA，可端到端学习检索相关片段，实现超长序列处理与泛化，其Triton kernel实现已开源，论文被ICML 2025接收。

大语言模型为文本驱动动作生成带来新可能，但现有方法有局限。GigaAI提出Motion - R1框架，融合“思维链”机制，能分解指令、优化动作合成，虽有不足，但在测试中表现优于主流方法。