Token价格」共找到 907 篇相关文章

新闻资讯7

小米小爱同学:资源受限下,实现端侧大模型的高性能推理

InfoQ对话小米小爱同学端侧AI负责人杨永杰,探讨大模型端侧部署难题。团队自研推理框架,实现180 tokens/s推理速度,采用共享基座架构支持多业务。未来端侧大模型突破依赖硬件提升与架构演进。

AI前线
开源动态8

MetaShuffling:Meta的Fused MoE kernel工程方案,更激进的Kernel优化和尽量避免Padding

文章介绍Meta的Fused MoE kernel工程方案MetaShuffling,可高效部署Llama 4模型。它处理MoE推理挑战,介绍多种token选择路由方案,阐述运行时设计、不同并行化方式及优化思路,还展示性能测试与Trace分析。

GiantPandaLLM
产品应用7

小鹏MONA M03 Max:为“智能化信仰”补票|甲子光年

5月28日,何小鹏公布MONA M03 Max配置和价格,其支持城区NGP功能。该车型搭载双英伟达Orin - X芯片,首发人机共驾模式。小鹏借此让消费者关注智能化,为新车铺垫,它或成产品战略分水岭。

甲子光年
开源动态8

手机跑多模态也能快到飞起!面壁MiniCPM-V 4.6开源

面壁智能开源多模态模型MiniCPM-V 4.6,以低算力成本、超低首Token延迟打通三大主流手机操作系统。它算力瘦身性能强,是视觉语言多面手,还适配主流系统,降本增效,让AI能力从云端到指尖。

AIGC开放社区
开源动态8

OpenClaw 背后核心框架 Pi:好的 Coding Agent 应该让用户来决定需要什么

OpenClaw 背后核心框架 Pi 是极简框架,系统提示词和工具定义不到 1000 tokens。开发者 Mario 认为好的 coding agent 应让用户决定需求。Pi 不支持 MCP 等,在 Terminal Bench 2.0 排名靠前,GitHub 星数超 24000。

Founder Park
开源动态7

Agent Team 实践与架构设计:在约束下构建可演进的一个人开发团队

作者结合构建的Routa,探讨在Token、流程、工具选择等约束下构建可演进的多Agent系统。介绍了Routa架构、原则,如跨Agent通信、状态外置等,还阐述了各设计要点及示例,强调系统可演进性。

phodal
产品应用8

面壁MiniCPM-SALA模型,稀疏-线性注意力,单卡吞吐百万上下文

面壁智能团队提出SALA,基于此训练的MiniCPM-SALA模型,在单张A6000显卡实现百万token超长上下文推理,训练成本降约75%。它结合稀疏与线性注意力,采用混合架构,继承权重降低成本,在长文本处理上优势明显。

AIGC开放社区
产品应用8

MiniMax Agent 开年更新,好的 AI 产品,需要让工具来适应人了

2026年初,Claude Cowork引发关注,开源社区跟进,Anthropic下调功能价格。MiniMax升级Agent,推出桌面端和网页端新功能。通过整理文件、翻译、小红书内容流水线等测试,展现其能力与局限,指出Agent应适应人的趋势。

Founder Park
新闻资讯7

内存条涨疯了,国产替代如何破局?

2025年三季度以来,全球存储芯片市场涨价,32GB内存条价格疯涨,分析机构预测后续还会再涨。国际存储巨头赚得盆满钵满,下游厂商叫苦。本轮涨价因人工智能兴起,中国存储芯片有被“卡脖子”风险,国产替代挑战大。

芯师爷
开源动态7

Claude Skills彻底火了,真的比 MCP 简单太多了。

Claude Skills在中文社区火了,它解决重复写提示词、token贵及定制难的痛点,可分层加载给上下文窗口减负。它能与MCP组合,官方开源20多个Skill源码,还代表了Agent能力模块化趋势。

探索AGI