「推理缓存优化」共找到 3050 篇相关文章
手机也能跑，腾讯混元一口气开源4款小模型
腾讯混元团队开源4款小模型，最大7B。可在低功耗场景运行，支持微调。是融合推理模型，有快、慢思考模式，在多领域表现出色，亮点是agent和长文能力，已落地多元业务场景。
Qwen3-Embedding 全揭秘：从技术到服务，打造高效AI产品的关键路径
文章全面揭秘 Qwen3-Embedding，介绍其核心原理、优势、应用场景。还给出在 PAI 和百炼平台的使用方法，含部署、推理、微调等。通过对比实验，凸显其低延迟、低成本特点，未来将成语义理解核心设施。
为什么我觉得AGI并不会马上到来
作者Dwarkesh Patel认为AGI不会马上到来。当前大语言模型缺乏持续学习能力，难以替代人类工作；计算机操作能力受训练周期、数据等限制；推理能力虽有突破，但仍需时间发展。作者给出了具体预测时间。
西湖 & 浙大 | PiFlow：让AI拥有“科学直觉”，Agent用于科学发现的新范式！
西湖大学团队提出PiFlow，一个基于信息论的自动化科学发现框架。它将科学发现视为结构化的不确定性降低过程，由科学原理指导，通过Min - Max优化机制平衡探索与利用，在多领域实验中效果显著，应用前景广。
DeepSeek-OCR 2再进化，对图像理解已经像人一样逻辑推理了
DeepSeek-OCR 2升级，保持前代高效压缩率和解码效率，引入DeepEncoder V2，模仿人类视觉因果流机制，将图像理解转为逻辑推理，在文档解析领域实现逻辑重构，性能显著提升。
说句话，造个3D世界！腾讯VibeWorlding氛围造世界
香港科技大学（广州）和腾讯团队开源VibeWorlding框架，实现说句话造3D世界。它由VWE - Bench和VibeWorlding - Gym组成，开源模型经强化学习训练后成绩逆袭，证明强化学习解锁3D推理潜力巨大。
Transformer上限触顶，Mobius能否引发下一代模型架构的革命？
自ChatGPT问世，Transformer上限备受关注。前OpenAI、Google负责人称其走到尽头。国内改进架构受算力限制。上海人工智能实验室的书生Mobius团队提出分离知识与推理的架构，有望解决商用等关键问题。
看完 Manus、Cursor 分享后的最大收获：避免 Context 的过度工程化才是关键
上下文工程优化是Agent创业公司新一年竞争重点，其信息质量很大程度决定Agent表现。文章结合Manus、Cursor团队思路，给出做好上下文工程要点，如缩减上下文、搭建工具行动空间、多Agent协作等。
1400亿，他带走AI芯片独角兽的核心班底
平安夜英伟达官宣200亿美元与AI芯片初创公司Groq交易，后澄清是技术许可协议。英伟达获技术授权并整合产品，Groq核心团队加入，其继续独立运营，这或为“人才收购”，剑指AI推理市场。
10人创业团干翻行业“潜规则”！全员必须会AI、让跑大模型全程“裸奔”，谷歌老兵不烧钱创业
谷歌老兵Bryan Zhou投身AI创业，组建AnyInt团队。该平台定位AI Infra中间件，一个API对接所有模型，提倡“去中心化”。团队一开始就奔着付费用户，还做了极致性能优化，吸引众多开发者。