「推理缓存优化」共找到 3052 篇相关文章
Claude Managed Agents 公测发布！Agent 开发成本直降 500 倍
Claude 宣布 Managed Agents 进入公测，可大幅降低 Agent 开发成本。它能自动生成配置和代码，接管多项任务，实现长时间自主运行。多家早期客户使用后效果显著，还介绍了定价、接入方式及与自建的差异。
东方理工团队提出HiDrop：重构MLLM计算路径，压缩90%视觉Token实现2.2倍加速
东方理工大学沈晓宇团队提出HiDrop，基于MLLM不同层功能差异，设计出延迟注入、凹金字塔式剪枝和提前退出的视觉Token压缩策略。实验显示，它能压缩约90%视觉Token，保持98.3%性能，实现训练和预填充加速。
压缩之外，Visual Tokenizer 也要理解世界？
MiniMax和华中科技大学发布视觉tokenizer新研究VTP，引发业界热议。该研究揭示传统仅以重建为目标的视觉tokenizer缺乏高层语义表示，提出在预训练中引入语义理解，还发现Scaling Law现象，虽有争议但为研究提供新视角。
多模态模型挑战北京杭州地铁图！o3成绩显著，但跟人类有差距
近年来，多模态大模型在多种场景取得进展，但能否‘看懂图’存疑。西湖大学等团队提出评测基准ReasonMap，评估模型在地铁图理解中的能力，发现主流模型有瓶颈，闭源模型虽优但仍逊于人类。
从零开始200行python代码实现LLM
文章从传统思路实现诗词生成器入手，介绍了词汇表、Bigram模型等概念，接着用Python和PyTorch实现了真正的Bigram模型，阐述模型、训练等内容，最后回顾成果，下一篇将基于此实现完整GPT。
Show me《指环王》！卡帕西强推大模型评测新基准
大神卡帕西宣称Anthropic用《指环王》给大模型评测上强度，这一‘指环王基准’正接替‘鹈鹕骑自行车’SVG测试。虽Opus 5生成的画面粗糙，但网友测试展现出丰富创意，不过新测试也引发争议。
Claude惊人真相被教授曝光：思考过程加密，给钱也看不到！
Anthropic推出extended thinking，包装成让用户看到思考过程的透明标杆，但实际仅展示部分内容，核心思考被加密。开发者发现异常，密码学教授逆向有发现，这暴露了其透明度悖论和信任问题。
支持30种语言，多种中文方言 [四川话、粤语等]的颠覆性无分词器TTS系统
VoxCPM是无离散音频分词器的语音合成系统。VoxCPM2基于MiniCPM - 4构建，有20亿参数，支持30种语言和9种中文方言，具备音色设计、可控声音克隆等特性，还完全开源，商用就绪。
Claude Code 工程师：像 Agent 一样思考
Anthropic 工程师 Thariq 分享构建 Claude Code 时 Agent 工具设计经验，通过 AskUserQuestion 工具迭代、Todo List 到 Task 系统演进等案例，指出工具设计无标准答案，要观察模型行为、反复实验。
谷歌看了都沉默：自家「黑科技」火了，但为啥研发团队一无所知？
当科技圈为‘谷歌黑魔法’兴奋时，所谓‘并行验证循环’可能是AI生成的‘赛博跳大神’。它号称超越思维链，性能提升显著，但发帖者身份存疑，无可靠源链接，其真实性遭业内质疑。