「预训练研究」共找到 3718 篇相关文章
王小川：30亿现金在手，明年IPO，toC产品马上就发
百川智能CEO王小川明确发展主线，百川开源新一代医疗大模型Baichuan-M3，在医疗评测中表现优异。公司约30亿资金，预计2027年IPO，今年将发两款to C医疗产品，重点在院外诊疗。
注意力机制大变革？Bengio团队找到了一种超越Transformer的硬件对齐方案
Transformer虽改变世界但不完美，线性递归等新方法理论有优势，实际在GPU表现不佳。Bengio团队提出硬件对齐算法框架，用滑动窗口循环和B2P算法，实验显示有速度与质量双重突破。
空间智能终极挑战MMSI-Video-Bench来了，顶级大模型全军覆没
上海人工智能实验室 InternRobotics 团队推出空间智能视频基准 MMSI-Video-Bench，对主流多模态大模型进行评测。该基准题型全面、问题具挑战性，视频数据多样，能针对性测评。结果显示模型与人类差距显著，明确了能力瓶颈。
谷歌430万颗TPU暴击CUDA护城河！Meta「割肉」助攻
Global Semi Research研究显示，2026年谷歌TPU总产能将达430万颗，主要因Meta释放CoWoS产能及台积电扩充产能。这显示谷歌欲降低成本、挑战英伟达，也预示AI巨头重塑算力格局。
告别“音画割裂”与“人物崩坏”！AutoMV：首个听懂歌词、卡准节拍的开源全曲级MV生成Agent
现有AI视频生成模型做全曲MV有时长限制、音画割裂和一致性差等问题。AutoMV作为开源多智能体系统，模拟人类影视制作流程，能生成长达数分钟、叙事连贯且音画同步的完整MV。
GPT-5.2首发评测：大神深度体验两周，强到离谱，但慢得抓狂
为对抗谷歌的Gemini 3，OpenAI推出GPT - 5.2。大神Matt Shumer深度评测，指出其指令遵循、代码生成、视觉和长上下文等能力有提升，但速度慢。与Claude Opus 4.5、Gemini 3 Pro各有分工。
Snapchat提出Canvas-to-Image：一张画布集成 ID、姿态与布局
Canvas-to-Image 是面向组合式图像创作的全新框架，将不同控制信息整合在同一画布，简化图像生成控制流程。它解决了传统生成流程中控制方式分散的问题，能在推理阶段组合多种控制信号，实验效果良好。
从被吐槽“套壳中国大模型”到自研封神！首次揭秘Cursor背后极速代码Agent如何对标GPT5.1 Codex，生成效率提4倍
10月29日，Cursor 2.0发布Composer大模型，效率约为其他模型四倍。开发者分享其成极速代码Agent方法，如强化学习、平衡训练与推理负载等，还提及未来方向及研发反思。
7篇顶会NeurIPS 2025最佳论文都说了什么？
NeurIPS 2025七篇获奖论文揭示大模型思维同质化、推理能力虚幻边界等隐忧，也在注意力机制、神经扩展定律等方面取得物理学层面突破，为AI建立更严谨科学地基。
何恺明团队重磅新作：去掉VAE，无需Tokenizer，纯Transformer预测数据比预测噪声更高效
麻省理工学院何恺明团队发布颠覆性研究，指出主流扩散生成模型未做好去噪工作，回归洁净数据预测才是高维像素生成正解。团队设计实验验证观点，提出极简架构JiT，展现优越性能与扩展能力。