「实际开销」共找到 316 篇相关文章
超越免训练剪枝：LightVLA引入可微分token剪枝，首次实现VLA模型性能和效率的双重突破
文章介绍LightVLA框架，它是用于提升VLA推理效率和性能的视觉token剪枝框架。针对VLA模型计算开销大、推理延迟高问题，提出两大创新，在LIBERO实验中性能超经典模型，还实现推理加速。
代码怎么才能跑的更快
文章围绕让代码跑更快展开，先介绍调整源代码的方法，如降低循环开销、去除内存引用等，又阐述使用硬件加速指令，像用 SIMD 函数、避免分支语句等，还提及多核并行和分析瓶颈等要点。
零Token部署GraphRAG，LinearRAG做到了~
现有GraphRAG模型在实际应用中常不如朴素RAG，原因是自动构建的知识图谱质量不佳。LinearRAG框架通过Tri - Graph架构、两阶段精准检索和零Token范式重构GraphRAG，在多数据集上超越现有方法，代码和数据已开源。
Andrej Karpathy回应强化学习之父Sutton最新观点「LLM是“死路一条”」
图灵奖获得者、强化学习之父Richard Sutton认为当前热门的大语言模型是“死路一条”，因其缺乏从实际互动中学习的能力。AI大神Andrej Karpathy认同其批评，认为当前LLM是向现实妥协的产物，还提出了“幽灵”比喻。
秒改屎山代码、最高提效 300%！AI 代码审查工具会终结技术债务还是带来新危机？
当下AI代码审查工具引发热议，虽宣称提效300%，但实际表现存争议。InfoQ采访硅心科技专家，探讨其利弊、核心能力、不同工具差异等，还提及应对问题的策略及未来审查流程演变等内容。
vLLM 新特性：批量大小不再影响模型输出
vLLM 推出批量不变推理功能，解决大模型推理中相同输入在不同批量大小下结果不同的问题。设置 `VLLM_BATCH_INVARIANT=1` 可保证输出一致，技术实现含三部分，虽有性能开销但换来了结果确定性。
机器人进入“边做边学”时代：星尘发布在线强化学习框架，让动态投掷成功率提升超141%
星尘智能基座模型团队公布在线强化学习框架SmoothRL，解决异步执行环境中具身模型在线微调难题。该框架让策略更新对应硬件实际执行，攻克延迟失准问题，在多项真机测试中大幅提升任务成功率。
Sonnet 5 翻车！同性能价差最高 56倍，海外巨头为何复刻不出 DeepSeek？
Anthropic发布Claude Sonnet 5，官方称补足了Agent能力，价格优惠，但开发者反应不佳。Sonnet 5因tokenizer换代，实际使用成本更高，且比同类模型贵。与之相比，DeepSeek V4 Pro便宜很多，其靠技术实现低价，海外厂商难以复刻。
构建 AI 时代的知识底座：直播数据 LLM Wiki 实践
文章围绕直播数据 LLM Wiki 实践展开，指出领域知识沉淀面临挑战，引出 LLM Wiki。介绍其实际效果，如指标召回、代码生成等，阐述构建方法、架构设计、编译流水线、检索方式，还提及增量编译与持续 Lint，最后给出未来规划。
OpenAI新Agent遭中国24人初创团队碾压！实测成本、质量全输惨，海外用户：中国Agent代差领先
今日凌晨，OpenAI 推出 ChatGPT Agent 新功能，能让 AI 助手完成多步骤任务。虽官方称其性能先进，但实际效果有局限。海外用户将其与中国团队产品对比，发现中国 24 人初创团队产品成本、质量更优。