搜索：模型进化实验

「模型进化实验」共找到 8406 篇相关文章

把RoPE扔掉，AI更能看懂长上下文！Transformer作者团队开源大模型预训练新方法

Transformer架构核心作者之一Llion Jones团队开源新技术DroPE，可丢弃位置嵌入扩展上下文，解决RoPE长序列处理缺陷，在多模型实验中表现卓越。该团队来自Sakana AI，此前还有相关研究成果。

据Epoch AI统计，去年OpenAI计算资源支出70亿美元，多以租微软云算力支付。其中50亿研发算力，大多用于幕后研究和实验，非爆款模型的最终训练，也解释了其2024年亏损原因。

中国科学院自动化研究所与腾讯AI Lab团队，从可解释性分析出发，发现LLM内部含多个可采样内部策略，揭示不同模型推理熵模式，提出BuPO算法，在复杂推理任务上表现优于传统算法。

香港大学和GIM提出CogAlpha框架，将Alpha从‘公式’升级为‘代码’，搭建7层21个智能体探索体系，让大模型参与研究流程。在5个数据集上跑赢21个基线方法，还具可解释性。

NeurIPS 2025的论文提出思维沟通概念，建立潜在思维可识别性理论，构建ThoughtComm框架。该框架让模型共享潜在思维，跳过语言冗余歧义，实验显示其提升了协作效率与推理能力，或开启新智能形态。

港科大研究团队提出 One4D 框架，可统一 4D 生成与重建，构造同步输出多模态的视频扩散模型，支持多种任务形态。其有 DLC、UMC 等亮点，用合成与真实数据混合策略训练，实验表现佳。

大语言模型在空间领域应用广泛，复杂地理分析问题需组织自然语言成可执行流程。Spatial - Agent 加入 GeoFlow Graph 中间层，借用 GIScience 理论，实验显示能提升准确率，不过仍受数据质量等限制。

香港多所高校研究团队提出 MoGraphGPT 系统，结合上下文感知模块化大模型与图形化控制，能让用户零代码搭建 2D 交互场景。该成果被 IEEE TVCG 录用，还对比实验验证其优势。

这是一篇AI行业周报，涵盖多领域热点。如Manus季逸超复盘Agent研发经验；陶哲轩评OpenAI模型获IMO金牌；字节跳动绩效改革、人员变动；还有企业动态，像英伟达黄仁勋访华、宇树科技开启上市辅导等。

谷歌DeepMind携手伦敦大学研究发现，GPT - 4o、Gemma 3等大语言模型有“固执己见”和“被质疑就动摇”并存的冲突行为，原因与训练、决策逻辑、记忆机制有关。研究还通过两轮实验证实。