「推理缓存优化」共找到 3061 篇相关文章
真正能离线跑的完全开源翻译工具
Argos Translate是用Python写的开源离线翻译引擎，底层靠OpenNMT，推理用CTranslate2。可当库、命令行、桌面软件用，模型是本地zip包，不联网也能用。支持主流及小众语言，有多种使用方式。
DeepSeek-V3.2巨「吃」Token，竟然是被GRPO背刺了
DeepSeek-V3.2发布后引起关注，但长思考版本暴露出Token使用效率不佳问题，消耗远超同类模型。这或与GRPO算法缺陷有关，其目标函数存在长度和难度偏置，长度偏置仍是该版本高Token消耗的原因。
Karpathy：LLM渴望的不是生存，而是你的点赞
Andrej Karpathy指出人们对‘智能’理解肤浅，动物智能与LLM智能源于不同优化压力。动物智能源于自然选择，而LLM智能来自统计模拟、强化学习微调等，两者在多层面有差异，LLM受商业进化影响大。
这些大神在Meta的论文看一篇少一篇了
田渊栋团队剖析可验证奖励强化学习（RLVR）训练动态，戳破参数更新稀疏误区，提出三门理论说明其参数更新定位机制，还为RL训练算法设计提供指导，指出SFT时代参数高效微调方法在RLVR中迁移效果差。
6款小游戏难倒所有顶级VLM！愤怒的小鸟让它们全军覆没，性能不如随机猜测
淘天集团未来生活实验室提出首个系统性评估多模态大模型（VLM）交互式物理推理能力的综合基准DeepPHY。它集成六个物理环境，对17个主流VLM测试，揭示其在物理交互等方面短板。
与DeepSeek-OCR不谋而合，NeurIPS论文提出让LLM像人一样读长文本
NeurIPS 2025 论文提出 VIST 框架，为大语言模型长文本推理提供视觉方案，与 DeepSeek - OCR 理念不谋而合。它模仿人类阅读，有快 - 慢路径协作，在多任务表现优，还让模型‘用眼看文字’，优势明显。
BigBang-Proton: 自回归基座模型统一语言、科学和物质世界
超对称公司发布新版基座模型 BigBang - Proton，实现多学科问题与 LLM 统一预训练和推理，挑战主流 AGI 技术路线。它有三项创新，在多专业学科任务表现出色，还提出宇宙尺度压缩构想。
AI时代，我们为何重写规则引擎？—— QLExpress4 重构之路
AI时代下规则引擎需求旺盛，QLExpress4全面重构。它性能提升，编译和执行性能显著提高；体验优化，支持JSON语法、有表达式追踪功能；还在淘天、钉钉等有应用场景，且对AI友好。
刚刚，Cursor 2.0携自研模型Composer强势登场，不再只做「壳」
Cursor 2.0发布重大更新，带来自研编码模型Composer和新协作界面。Composer速度领先，针对软件工程优化；新界面以智能体为中心，可并行运行多智能体，还解决了代码评审和测试瓶颈。
Sam亲自泼冷水，GPT-5意外失手：我们对AI的期待，是否已被整个行业误判？
科技行业集体转向 AI，高管强调其变革性，可 OpenAI 的 Sam Altman 却泼冷水，提醒投资者高估回报。文中围绕‘AI 是否放缓’展开讨论，还分析了 GPT - 5 发布遇冷原因、AI 对就业影响等，指出 AI 发展多且快，未来潜力巨大。