「推理缓存优化」共找到 3055 篇相关文章
一场「狼人杀」，考倒了一堆大模型
南开大学等机构设计 InMind 评测框架，在 Avalon 游戏对 11 个前沿大模型测试。多数模型停留在表层模仿，仅少数推理增强模型有初步‘风格敏感性’，未来人机交互应关注‘像不像’。
聚焦AI视听创作源培育 首创郎园发布“银河人才计划”
8月19日，北京AIGC视听产业创新中心亮相，首创郎园发布“银河人才计划”。该计划以“挖掘—孵化—赋能—闪耀”为路径培育AI视听人才，还携手高校打造产教融合实验室，构筑AI视听人才新高地。
离谱，偶然发现一个逆天MCP...
作者偶然发现滴滴入局打车MCP，用其接入苹果打造能通过Siri用嘴打车的Agent。介绍了将滴滴MCP接入Claude Code、Fastgpt、n8n等工具的过程，还分享用Siri实现嘴打车的流程，认为其填补AI打车空白。
刚刚，Claude 4.1 发布
刚刚，Anthropic 发布 Claude Opus 4.1，对智能体任务、编码和推理能力全面升级，付费用户已可使用。未来几周还有重大改进。它在多方面能力提升，碾压对手，网友反应热烈。
双“雷”暴击！Trae 被曝资源黑洞、Claude背刺超级付费党，开发者们被“刀”惨了
主打“自动化执行、多模型调用、上下文记忆”的AI编程应用大热，但也出现运行卡顿等问题。Trae被曝过度消耗资源，Claude Code对付费用户增加调用限制，凸显AI产品资源问题及厂商成本管控困境。
狂拿大模型明星订单，一家清华系HPC-AI Infra公司浮出水面
本文介绍清华系计算创业公司是石科技，其93年创始人闫博文不囤算力仍拿下大模型明星公司订单。团队技术实力强，3次获戈登·贝尔奖。公司构建全栈能力，为多领域提供服务，未来想以算力赋能各行业。
DeepSeek 复盘：128 天后，为什么用户流量一直在下跌？
文章深入分析DeepSeek和Anthropic策略，揭示行业计算资源稀缺难题。指出AI服务定价是延迟、吞吐量、上下文窗口三个指标的权衡，DeepSeek牺牲体验换研发，Anthropic提升‘智能密度’优化资源。
4倍无损压缩Diffusion，6倍加速！仅需时间特征维护 | TPAMI'25
扩散模型时间特征对量化敏感，现有量化方法会致其扰动，影响图像质量。港科大等多校团队提出TFMQ - DM框架，优化时间特征相关模块，提升低比特量化性能，实现硬件加速。
不靠Agent，4步修复真Bug！蚂蚁CGM登顶SWE-Bench开源榜
蚂蚁集团代码图模型 CGM 基于开源模型，不靠 Agent 架构，用 4 步轻量级流程完成仓库级代码修复，在 SWE - BenchLite 公开排行榜成绩亮眼，打破闭源垄断，还解决了 LLM + Agent 架构的一些问题。
3B小模型吊打72B巨头！轻量级文档解析OCR，性能超Gemini，高效且精准！
Yuliang - Liu团队在GitHub开源轻量级文档解析模型MonkeyOCR，以SRR三元组范式实现高效精准解析，3B参数模型在英文文档解析上超Gemini 2.5 Pro和Qwen2.5 - VL - 72B，还介绍了安装部署、适用场景等。