「省Token策略」共找到 1574 篇相关文章
两小时激辩：黄仁勋为什么不怕 TPU、不怕华为、不怕出口管制？
黄仁勋接受长达两小时专访，谈及Nvidia使命、经营哲学等多方面。他认为能源政策制约未来，CUDA优势在于生态等，还谈了对TPU、出口管制等看法，不过其观点存在矛盾待检验。
阿里云飞天企业版X平头哥“真武”芯片，推理性能跃迁13倍，底层逻辑是什么？| Q推荐
过去几年，模型虽强但使用成本高，阻碍企业级AI深度应用。今年‘模型推理’成AI关键词，4月13日19:00，InfoQ联合阿里云邀专家围绕推理加速底层破局展开对话，探讨算力博弈、芯片性能跃迁等问题。
Claude Code一周份额，一天就烧完一半？有人逆向工程发现了7个bug
Claude Code在快速更新中问题频发，如思考深度大幅下降，还存在7个叠加的bug，浪费用户token配额。开发者给出应对建议，新版本增加账单透明度和缓存过期提醒，该工具正面临信任危机。
文言文秒杀所有大模型！100%攻击成功，轻松突破安全防线
南洋理工等机构团队提出基于文言文语境的自动化黑盒测试框架CC - BOS，利用果蝇算法和8维策略空间，暴露主流大语言模型安全盲区，实验显示对6款主流模型攻击成功率达100%。
拒绝Vibe Coding！大神揭秘8套AI编程模式
Datasette创始人Simon Willison公开指南，教专业开发者用Claude Code等AI编程工具提效，总结8大实战模式重构程序员工作方式。还提出认知债务概念，Hacker News对此有不同观点。
芯片企业突然官宣涨价！
1月27日，中微半导对MCU等产品涨价15% - 50%，称受供应紧张、成本上升影响。国科微也宣布自1月起对KGD产品调价，最高涨80%。国内半导体企业通过价格策略应对波动，深化布局与投入。
机器人看不清，蚂蚁给治好了
天下苦机器人看不清透明和反光物体久矣，问题出在深度相机。蚂蚁集团具身智能公司蚂蚁灵波开源深度视觉模型LingBot - Depth，无需换硬件，用创新算法和大量数据提升性能，还将开源数据集。
重复一下提示词，Gemini准确率竟从21%飙升至97%！
Google Research团队研究发现，重复提示词可让Gemini准确率从21.33%升至97.33%。该策略能提升主流大模型非推理任务表现，在多模型多基准测试中优势明显，且不增加延迟。
The Batch: 899 | 更划算的推理
研究人员提出 Delethink 强化学习方法，训练大模型定期截断推理 token 至固定最大数量，以限制处理长思维链成本。经测试该模型在多方面超基线，且缓解计算成本限制，为长上下文推理提供路径。
Transformers v5 中的分词系统：更简洁、更清晰、更模块化
文章聚焦 Transformers v5 分词系统，介绍分词概念、流程、主流算法，对比 transformers 和 tokenizers 库。着重讲 v5 改进，如架构与词表分离，解决 v4 黑盒问题，还能从零训练专属分词器。