「Token调用量」共找到 1514 篇相关文章
MetaShuffling：Meta的Fused MoE kernel工程方案，更激进的Kernel优化和尽量避免Padding
文章介绍Meta的Fused MoE kernel工程方案MetaShuffling，可高效部署Llama 4模型。它处理MoE推理挑战，介绍多种token选择路由方案，阐述运行时设计、不同并行化方式及优化思路，还展示性能测试与Trace分析。
利用大模型检测钓鱼邮件:方法，效果及数据集
随着企业安全防范增强，钓鱼邮件成重要攻击手段，大模型检测方法盛行。日本论文详细披露检测方法和实验数据，含解析解码、简化邮件、生成prompt、调用LLM四步，还介绍数据集及评估了四个模型效果。
Google搜索转型，Perplexity入不敷出，AI搜索还是个好赛道吗？
Google在I/O开发者大会宣布上线由Gemini驱动的高级AI搜索模式AI Mode，此前其因转型冲击收入而犹豫。Perplexity访问量增但亏损，AI搜索赛道融资减少，大厂抢占空间，产品转垂类，商业化待探索。
H20之后，英伟达全新特供版GPU曝光！单GPU售价低至6500美元
出口管制让英伟达在中国AI芯片市场份额从95%跌至50%。黄仁勋将推出‘阉割版’Blackwell GPU，定价6500 - 8000美元，最早6月量产。还在开发另一款同架构芯片，9月生产。此次尝试结果待察。
用 AI 重新定义 RSS 阅读体验FeedMe
FeedMe可一站式了解多信息源新鲜事，轻量自由且可定制。具备多源RSS聚合、AI摘要生成等功能，支持多种部署方式，如GitHub Pages、Vercel、Docker本地部署，还给出开发指南，项目开源方便Fork和自部署。
Meta开源Muse Glimmer，30B Agent小钢炮跑进你的电脑
Meta发布并以宽松协议开源Agent模型Muse Glimmer。它30B参数，能跑在Mac或PC上，多项Agent基准领先。可完成端到端任务、调用工具及多步推理，接受文本与图像交错输入，用途广泛。
自构建智能体：一项 LangChain4j 实验
作者将LangChain4j文档交代码助手，让其参照构建智能体，设计多智能体系统编写、测试和调试代码。实验展示了LangChain4j优势，还对比监督者和工作流两种智能体实现模式，揭示速度与自主性权衡关系。
手机跑多模态也能快到飞起！面壁MiniCPM-V 4.6开源
面壁智能开源多模态模型MiniCPM-V 4.6，以低算力成本、超低首Token延迟打通三大主流手机操作系统。它算力瘦身性能强，是视觉语言多面手，还适配主流系统，降本增效，让AI能力从云端到指尖。
参数砍到 1B，这个小钢炮拿下多模态第一
面壁智能发布并开源参数量仅 1.3B 的 MiniCPM-V 4.6，虽小但多模态综合能力在 1B 级别中夺冠。它推理快，效率高，靠两大架构创新实现，还为开发者提供完整工具链。
GPT-image-2十大最强玩法实操：夯到爆炸
OpenAI全量上线GPT Image 2，其表现远超其他模型。它优势明显，如真实感与细节强、文本渲染准确、自带“思考”能力。文章还给出其十大玩法实操及提示词，涵盖图文组合、海报生成等。