搜索：AI预训练范式

「AI预训练范式」共找到 11498 篇相关文章

谷歌：Embedding检索存在根本理论局限，Sparse、Graph才是未来？

近年来稠密向量检索广泛应用，社区认为embedding能‘包打一切’，但谷歌DeepMind从理论与实验指出其存在根本局限。相关实验代码和数据已开源，还给出替代方案。

2025年8月29日，清华崔鹏教授团队联合稳准智能开源“极数”（Limi X）结构化数据通用大模型。它融合结构因果推断与预训练技术，适配多任务，性能超最优专用模型，已落地多个工业场景。

随着AI发展，大语言模型处理复杂推理任务能力提升，但推理产生大量中间步骤和文本，拖慢计算速度、增加资源压力。研究者提出LightThinker，模仿人类思考模式，动态压缩推理步骤，削减tokens数量，降低成本。

英伟达发布 Jet - Nemotron 系列小模型，在多项基准测试中表现出色，实现高吞吐量加速和高准确率。其训练采用 PostNAS 方案，对既有模型针对性优化，展示了在小模型优化上的可行技术路径。

Physical Intelligence 核心技术团队解读机器人技术路径，分享前沿探索。介绍 VLA 与 VLM、LLM 关系，还提及 PI 构建数据管线、提出“知识绝缘”机制，分析开放世界部署难题，展望未来“机器人模型即服务”。

前几天发 Nano Banana 测评后，很多人不知怎么用。刚好做手办图玩法火了，作者教大家在 LM Arena 用 Nano Banana 编辑图片、做手办图，还介绍把图片变视频及剪辑的方法。

哈工大30+页综述聚焦通用文本嵌入（GPTE），系统介绍其架构、数据、模型，探讨预训练语言模型（PLM）给GPTE带来的基础能力与高级扩展，还涉及多模态、多语言、代码嵌入等应用。

文章深度对比Cursor和Claude Code两款AI编程工具，介绍其核心功能、适用场景。经案例分析，指出Cursor快但草率，Claude Code慢却精准。还给出使用心得，建议开发者依任务灵活选择或结合使用。

GPT-5智商高达148，在多基准测试表现亮眼获英伟达认可。OpenAI借“路由器”为ChatGPT商业化铺路，它能分流降成本、让免费用户接触深度思考模型，还可变身广告分配器，实现AI广告变现。

近日，瀚博半导体与中信证券签署上市辅导协议，冲刺A股科创板。其由前AMD核心技术领袖钱军、张磊创立，选差异化技术路径，已历6轮融资。当前国产GPU IPO潮起，瀚博有望借此抢占市场。