搜索：清华高性能所

「清华高性能所」共找到 3680 篇相关文章

Thinking Machines新发现：Lora不是权宜之计，哪怕秩低到 1，也能匹敌全参数微调

Thinking Machines和John Schulman新研究刷新对LoRA的认知，实验显示正确使用时它能匹敌全量微调。团队系统研究训练集与参数关系，有层选择、学习率等关键发现，还给出实用建议，但LoRA在部分场景表现待验证。

最新论文中，研究人员让GPT - 5挑战5个未解决的优化猜想，它解出3个，还对一题给出不同有效证明方案。测试题需博士水平研究者花几天完成，研究还“挑衅”了陶哲轩对大模型数学能力的印象。

阿里开源Tongyi DeepResearch热度高，文章分享两篇相关技术综述。介绍Deep Research是代理研究新范式，阐述其四大核心模块、优化方法、数据处理、奖励机制，还提及开源系统亮点及相关论文。

在Hot Chips 2025上，Transformer发明者之一、谷歌Gemini联合负责人Noam Shazeer指出LLM发展需更多算力、内存等硬件支持。微软AI的CEO Mustafa Suleyman预测2026年底前LLM或成“行动型AI”，还提及失业潮等问题。

vivo AI Lab 算法团队提出新的大模型后训练框架 GTA，综合 SFT 和 RL 优点，解决文本分类场景中 RL 收敛慢问题。论文已被 EMNLP 2025 录用，介绍了 GTA 框架设计思路、实验结果等，未来还将探索更多场景和大模型。

AI后训练依赖监督微调或程序化检查器，但很多有价值任务缺这两种资源。Meta超级智能实验室等机构研究者提出CaT方法，把推理时额外计算当教师信号，为大模型提供监督，实验显示效果显著。

OpenAI发布编程系统GPT - 5 - Codex，它是GPT - 5针对Codex产品的升级。能独立处理复杂编程任务，在性能、代码审查、前端开发等方面表现出色，还有严密安全体系，驱动Codex产品生态升级。

新加坡国立大学邵林团队提出MetaFold框架用于机器人衣物折叠。它创新分层架构，解耦任务规划与动作预测。构建开源数据集，经实验在多指标超现有方法，还验证了从仿真到现实的迁移能力。

字节Seed与斯坦福等机构推出新模型，其新注意力机制MoC能让长视频生成计算量降低85%，质量不减且保持连贯性。团队将视频生成定义为上下文检索任务，提出MoC机制并阐述实现方法。

本文由多机构联合完成，引入自搜索强化学习SSRL。它利用结构化prompt和format reward提取模型world knowledge，降低幻觉。还探索Sim2Real有效性，验证SSRL训练模型在真实场景泛化性，且所有训练数据等已开源。