「推理缓存优化」共找到 3053 篇相关文章
技术框架不重要，大厂简历不值钱？小哥不会写代码却进了Lovable，80% 靠聊天也能上生产
零技术背景的Lazar Jovanovic成Lovable全职Vibe Coder。他80%时间规划对话，20%执行，多开版本让AI“内卷”。他认为无技术背景反是优势，使用AI要有“妄想”心态，编码已非核心，判断力和品味更重要。
清华刘知远团队论文：最小化结构改动，短文本到长文本丝滑升级 | ICLR 2026
大语言模型发展中，上下文长度成关键瓶颈，主流架构计算开销大。清华刘知远团队提出《InfLLM-V2: Dense-Sparse Switchable Attention for Seamless Short-to-Long Adaptation》，提出可切换注意力框架，为长上下文研究提供新思路。
谷歌发布 Gemma Scope 2，深化对 LLM 行为的理解
Gemma Scope 2 是谷歌推出的解释 Gemini 3 模型行为的工具，结合稀疏自编码器和转码器，能让研究人员检查模型内部表示。它从多方面扩展了原先的 Gemma Scope，还引入针对聊天机器人的分析工具，已发布权重。
告别“一眼定生死”：Agent-as-a-Judge 开启 AI 评估的下半场
过去两年，LLM-as-a-Judge成评估界“黄金标准”，但面对复杂任务力不从心。论文《A Survey on Agent-as-a-Judge》指出，应从单一的大模型裁判进化为具备行动能力的智能体裁判，还阐述了其优势、发展阶段等。
刚刚，DeepSeek 突发梁文锋署名新论文：V4 新架构提前曝光？
今天凌晨，DeepSeek在GitHub开源新论文与模块Engram，论文提出“查—算分离”机制，通过可扩展查找记忆结构提升模型表现。Engram将记忆与计算职责分离，或成V4核心技术，获网友肯定。
一年后，DeepSeek-R1的每token成本降到了原来的1/32
几天前，DeepSeek更新R1论文至86页，公开训练全路径等细节。英伟达发表博客展示在Blackwell GPU上对其降本增效，通过软硬协同提升每瓦特Token吞吐量，还介绍了TensorRT - LLM软件及相关技术提升性能的情况。
MiniMax海螺视频团队首次开源：Tokenizer也具备明确的Scaling Law
MiniMax海螺视频团队首次开源，揭晓视觉分词器难题答案。其推出的VTP框架可提升模型性能，解决传统Tokenizer缺陷，还展示了Tokenizer的Scaling Law，为行业提供新路径。
从"单芯作战"迈向"系统集成"：产业变革背景与两大关键技术
随着摩尔定律逼近极限与AI算力需求爆发，集成电路产业正从‘单芯作战’迈向‘系统集成’。文章介绍Chiplet和SoW技术内涵、优势，对比二者差异，还提及中国‘软件定义晶上系统’技术路线及产业发展现状。
OpenAI内部代码泄露！最强模型「皇帝」登基，0思考延时吓人
OpenAI代码泄露，神秘的「企鹅家族」模型在测试，代号Emperor的推理预算最高。同时，ChatGPT将推「记忆搜索」功能。此前谷歌Gemini 3抢份额，OpenAI或提速发布GPT - 5.2抗压。
奥特曼怕了！GPT-5.5「大蒜」决战谷歌，红色警报紧急拉响
三年前ChatGPT让谷歌恐惧，如今OpenAI被谷歌逼得拉响‘红色警报’。OpenAI计划发布新推理模型，‘Garlic’预训练有突破，还启动下一代模型。OpenAI调整策略，聚焦提升ChatGPT体验。