「Tokens/s」共找到 796 篇相关文章
SimpleTIR：让大模型“边写代码边思考”不再崩溃
SimpleTIR可解决多轮工具调用中训练崩溃问题。作者指出崩溃原因是分布偏移、低概率token链式雪崩和梯度爆炸。它采用void turn过滤，掐断崩溃链路，训练稳定，还催生多样推理行为，且工程友好已开源。
R2没来，却等来综合性能更优的DeepSeek R1T2
抱抱脸热门排行榜出现R1变体模型DeepSeek-TNG-R1T2，构建于多个父模型之上，在智能与输出token长度间达新平衡点，速度快且测试表现佳，还给出与不同模型对比的选择建议。
MetaShuffling：Meta的Fused MoE kernel工程方案，更激进的Kernel优化和尽量避免Padding
文章介绍Meta的Fused MoE kernel工程方案MetaShuffling，可高效部署Llama 4模型。它处理MoE推理挑战，介绍多种token选择路由方案，阐述运行时设计、不同并行化方式及优化思路，还展示性能测试与Trace分析。
时隔九年，中国超级计算机重登世界榜首
当地时间6月23日，第67届TOP500超级计算机排行榜发布，国家超级计算深圳中心的‘灵晟’（LineShine）夺冠，运算速度达2.198 ExaFLOP/S。它仅用CPU，性能超美国El Capitan超20%，引发对未来计算架构思考。
手机跑多模态也能快到飞起！面壁MiniCPM-V 4.6开源
面壁智能开源多模态模型MiniCPM-V 4.6，以低算力成本、超低首Token延迟打通三大主流手机操作系统。它算力瘦身性能强，是视觉语言多面手，还适配主流系统，降本增效，让AI能力从云端到指尖。
OpenClaw 背后核心框架 Pi：好的 Coding Agent 应该让用户来决定需要什么
OpenClaw 背后核心框架 Pi 是极简框架，系统提示词和工具定义不到 1000 tokens。开发者 Mario 认为好的 coding agent 应让用户决定需求。Pi 不支持 MCP 等，在 Terminal Bench 2.0 排名靠前，GitHub 星数超 24000。
Agent Team 实践与架构设计：在约束下构建可演进的一个人开发团队
作者结合构建的Routa，探讨在Token、流程、工具选择等约束下构建可演进的多Agent系统。介绍了Routa架构、原则，如跨Agent通信、状态外置等，还阐述了各设计要点及示例，强调系统可演进性。
面壁MiniCPM-SALA模型，稀疏-线性注意力，单卡吞吐百万上下文
面壁智能团队提出SALA，基于此训练的MiniCPM-SALA模型，在单张A6000显卡实现百万token超长上下文推理，训练成本降约75%。它结合稀疏与线性注意力，采用混合架构，继承权重降低成本，在长文本处理上优势明显。
我们真的变成巫师了：OpenAI API 负责人谈 AI 如何重塑软件工程
OpenAI API 负责人 Sherwin Wu 在 Lenny's Podcast 上分享，OpenAI 内部 95% 工程师用 Codex，100% PR 由其审查。他谈了 AI 重塑软件工程的现状、未来趋势，提及管理变化、创业效应、部署问题等，也为创业者给出建议。
Claude Skills彻底火了，真的比 MCP 简单太多了。
Claude Skills在中文社区火了，它解决重复写提示词、token贵及定制难的痛点，可分层加载给上下文窗口减负。它能与MCP组合，官方开源20多个Skill源码，还代表了Agent能力模块化趋势。