「预训练研究」共找到 3737 篇相关文章
DeepMind爆火论文：向量嵌入模型存在数学上限，Scaling laws放缓实锤？
DeepMind一篇关于向量嵌入局限性的论文在AlphaXiv爆火。其证明向量嵌入有数学上限，Scaling laws或放缓。研究构建LIMIT数据集，测试发现即便是先进嵌入模型也难解决简单任务，揭示了RAG系统约束，让人反思Scaling Laws边界。
EMNLP25 | 北大x腾讯光子发布 C3 Benchmark：中英双语语音对话模型“地狱级”测试基准，直击语音对话模型软肋！
近年来语音对话模型受关注，但处理人类对话复杂现象的效能缺乏研究。北大联合腾讯光子构建中英双语C3 Benchmark数据集，评估模型应对复杂对话的能力，结果揭示性能瓶颈，为模型优化提供参考，代码和数据已开源。
突破单token预测局限！南洋理工首次将多token预测引入微调，编程任务准确率提升11.67%
当前主流大语言模型依赖下一token预测训练，难理解跨多token完整概念。南洋理工大学提出概念感知微调（CAFT）技术，首次将多token预测引入微调，能让模型理解完整概念，多领域实验显示其可显著提升模型性能。
刚刚，「吉卜力狂欢」GPT-4o功臣被挖走！华南理工女学霸曾与奥特曼同台
GPT-4o引爆全球「吉卜力风格」风潮后，其核心成员华南理工学霸Lu Liu与伯克利博士Allan Jabri跳槽Meta。此前他们在OpenAI主导多模态AI研究，与奥特曼同台展示关键功能，此次挖角凸显OpenAI人才流失危机。
Test Time Scaling Law远未达到上限! o4-mini仅15.8%通过率，华为诺亚提出代码HLCE终极基准
华为诺亚研究员推出全新编程基准HLCE，含235道竞赛难题。实验显示，顶级LLM在该基准表现不佳，推理模型优势大，IOI交互式题难攻克。研究还发现模型自我认知与推理能力发展不同步，Test Time Scaling Law远未达上限。
新模型亦是新 Agent，Kimi-Researcher 超大量一手实测！
2025 年被称为“Agent 元年”，月之暗面发布了端到端强化学习训练的新一代 Agent 模型 Kimi - Researcher，其基座是自研新模型。文章对其进行大量实测，与 OpenAI 等对比，并探讨了 Deep Research 的重要性及 Kimi 的不足。
少说‘Wait’，多做题：NoWait重塑大模型推理路径
现代大模型在复杂推理时爱用自我反思词，触发冗余验证循环，拖慢速度、增加算力消耗。NoWait方法零训练成本，通过抓关键词、扩展变体、实时屏蔽，让模型跳过废话，在多任务中表现出色，且颠覆对推理的认知。
2024车载激光雷达市场、技术和产品
国际权威研究机构Yole Group发布《Automotive LiDAR 2025 Market & Technology Report》，本文解读其关键内容，涵盖2024年车载激光雷达市场（销量、份额、单价）、技术（激光器、接收器、扫描部件）和产品（车辆集成、长距雷达、短距雷达）情况。
微软副总裁X上「开课」，连更关于RL的一切，LLM从业者必读
微软副总裁 Nando de Freitas 在 X 上「开课」，分享人工智能教育帖子，从 LLM 的强化学习讲起。内容涵盖无监督、监督、强化学习定论，分布式强化学习系统构建，RL 用于后训练 LLM 等，还介绍单步强化学习与策略梯度及相关技巧。
清华教授创业押注RSI，融资近4亿元，要做会自我进化的模型
本文报道清华AI学院助理教授陈勇超创办超衍智能，押注递归自我改进RSI方向，打造可自主研究、自我进化的下一代基座模型，公司成立不到三个月完成近4亿人民币融资，已公布多项阶段性研究进展，全球多家机构已布局该赛道。