「Token优化」共找到 1823 篇相关文章
OpenClaw引爆的AI Agent浪潮中，终于有芯片给端侧“解渴”了
OpenClaw让AI Agent成产业竞赛焦点，但云端方案算力、成本和安全问题凸显。瑞芯微推出端云协同方案ClawChips，采用算力解耦架构，在成本与场景适配间找平衡，还开源并提供开发套件借用权益。
SGLang × RoleBasedGroup（RBG）：打通大模型推理PD分离架构规模化落地的“最后一公里”
PD分离架构对大模型推理部署意义重大，SGLang支持该架构且性能佳。但从测试到生产落地难，存在部署、资源、可靠性等问题。SGLang开源RBG项目，结合二者为PD分离架构生产化落地提供方案。
Jev火了，但真正重要的不是Jev | 5Y View
TypeSafe AI发布专用决策模型Jev后引发开发者社区关注，本文跳出Jev本身讨论，重新审视大模型通用生成的默认前提，提出AI计算专用化与任务分工的核心观点，预判AI行业发展趋势。
光计算如何走向实际部署？清华、上交提出光计算走向实用化的技术路线图
传统电子计算算力遇瓶颈，光计算成为下一代算力新方向。清华与上海交大研究团队联合在Nature Nanotechnology发表研究，提出国际首个光计算实用化统一评价框架与技术路线图，为光计算落地部署提供明确指导。
翁荔最新博客：我们可能高估了模型，却严重低估了那层“脚手架”
前OpenAI安全研究副总裁翁荔在新博客聚焦AI领域Harness Engineering。她认为Harness是决定模型在现实任务中走多稳、多远的‘脚手架’，并梳理其演进路线，也指出研究面临评估、安全等瓶颈。
用AI复制人脑可行！MIT论文估算500亿美元、10到25年可实现
美国麻省理工学院研究生艾萨克·弗里曼团队论文指出，大脑仿真正从梦想变为可量化工程问题。关键技术加速发展，成本降低、算力接近需求，未来或可用于医疗等领域。
几分钟扫完细菌全基因组，MIT团队用AI找出大量未知的抗病毒防御系统
MIT科学家开发AI模型DefensePredictor，能从细菌基因组快速找防御系统。用约1.7万个细菌基因组训练，借助ESM2蛋白语言模型，几分钟扫描完一个细菌全基因组，还开源供科学界使用，潜力巨大。
Claude Managed Agents 公测发布！Agent 开发成本直降 500 倍
Claude 宣布 Managed Agents 进入公测，可大幅降低 Agent 开发成本。它能自动生成配置和代码，接管多项任务，实现长时间自主运行。多家早期客户使用后效果显著，还介绍了定价、接入方式及与自建的差异。
SGLang原生支持昇腾，新模型一键拉起无需改代码
12月20日SGLang AI金融π对收官，聚焦大模型推理效率。昇腾成SGLang原生支持后端，助DeepSeek等模型免调参运行。SGLang给出推理系统工程解法，昇腾与SGLang深度共建，性能优且全面拥抱开源。
“Claude Skills很棒，可能比 MCP 更重要”
10月17日，Anthropic发布Claude Skills，是助其模型获新功能的模式。Claude用Skills可改进执行特定任务方式，且只在相关时调用。它易共享，可能比MCP更重要，实现依赖编码环境。