「token使用」共找到 1875 篇相关文章
MetaShuffling：Meta的Fused MoE kernel工程方案，更激进的Kernel优化和尽量避免Padding
文章介绍Meta的Fused MoE kernel工程方案MetaShuffling，可高效部署Llama 4模型。它处理MoE推理挑战，介绍多种token选择路由方案，阐述运行时设计、不同并行化方式及优化思路，还展示性能测试与Trace分析。
半年复盘，AI迎来预训练后的新瓶颈。
2025年上半年AI领域发展加速，编码和多模态能力提升。但模型在综合能力上遇到第二轮瓶颈，编码能力强时通用认知能力‘拉胯’，或与RL阶段使用编程数据有关，红杉新基准或推动模型均衡发展。
Raycast + MCP = AI Mac
Raycast添加AI插件可实现跨应用调度，现支持MCP。它解决了MCP用户部署、配置难的问题，提供接近自动部署的方法。还介绍了MCP在Raycast中的安装与使用，以及作者常用的支持MCP的客户端。
Poe：DeepSeek使用率下降50%，快手崛起、OpenAI暴涨
2025年春季，Poe发布AI模型使用趋势报告。DeepSeek使用率降超50%，OpenAI因文生图功能暴涨。文本、视频、推理、图像和音频5大领域中，各模型表现不一，如快手Kling家族、谷歌Imagen 3家族等有亮眼表现。
Cursor就是最强知识库应用，没有之一
作者认为最好用的知识库应用是Cursor，它有RAG能力，能处理代码和纯文本，可创建修改文档，具备搜索能力且会及时支持先进模型。作者还分享用Cursor配合文档工作的规则及使用示例。
梅涛的视频AI创业，最新产品来了
本文来自量子位，对梅涛旗下智象未来发布的AI视频创作智能体Vivago R1进行深度实测，介绍产品定位、技术架构，分析AI视频赛道分化路线，分享实测体验，探讨AI创作工具发展方向。
YC 开源自家 Harness，3 天斩获 3.9k Star，QM 如何划清 Agent 的权限边界
YC开源的QM项目上线3天获3.9k GitHub Star，定位企业级Agent Harness，解决AI规模化落地管理难题。它补齐企业团队刚需能力，设计贴合企业规则，解决隔离与协作、权限管理问题，顺应行业从拼模型到搭骨架的转变。
所有人在让Agent更强，YC却投了一家靠Agent翻车赚钱的公司。
YC孵化的新公司Mount给AI Agent卖保险。如今企业大量使用Agent，但翻车规模也在扩大。Agent频繁出事或因引入新型债务，工程手段只能降低风险，剩余风险可被保险覆盖。YC CEO有独特比喻。
重新定义Skill开发：保姆级教程&一站式开发助手发布
文章围绕Skill开发展开，介绍其定义、安装使用、创建、管理等内容，指出Skill替代重复任务，无法替代体验和判断。还分析Skill生态早期痛点，如跨平台一致性等，并推荐一站式Skill开发助手skill - dev - aio。
手机跑多模态也能快到飞起！面壁MiniCPM-V 4.6开源
面壁智能开源多模态模型MiniCPM-V 4.6，以低算力成本、超低首Token延迟打通三大主流手机操作系统。它算力瘦身性能强，是视觉语言多面手，还适配主流系统，降本增效，让AI能力从云端到指尖。