搜索：动态token选择

「动态token选择」共找到 1309 篇相关文章

雇佣过目即忘的天才：为什么企业级AI总在浪费钱？| 甲子光年

当下企业级AI缺乏连续性、动态数据割裂，主流外挂RAG的解法无法解决‘认知’问题。红熊AI的‘记忆熊’开源，构建记忆系统结合Agent平台，解决多场景痛点，还将推动记忆科学‘芯片化’。

这是对多智能体协作领域突破性研究的深度解读。论文提出LatentMAS框架，让智能体直接交换“思维向量”，实现“机器心灵感应”，在性能、速度和Token消耗上全方位碾压传统文本交互模式。

威斯康星大学麦迪逊分校联合清华的研究《MetaMind: Modeling Human Social Thoughts with Metacognitive Multi-Agent Systems》，将元认知理论融入LLM架构，使模型在心智理论测试达人类平均水平，揭示构建社交智能AI方法论。

文章探讨曾经芯片霸主Intel现状，分析其面临困境。虽有技术能力，但在财务、文化、客户关系等方面存在问题，还错失移动芯片代工与AI芯片发展机会。美国政府对其股权投资，引发市场机制与战略考量的讨论。

字节发布InfinityStar框架，将5秒720p视频生成时间从30多分钟缩至58秒，还支持多样任务。它基于对视频本质思考设计时空金字塔模型，将时空分离，通过多项技术优化，性能表现出色，不过也存在一些技术局限。

HAMi社区在v2.7.0版本推出针对NVIDIA GPU的拓扑感知调度功能，解决多卡通信瓶颈。文章深入剖析其设计与实现原理，介绍核心特性、阶段及代码，用双策略寻优算法保障性能与资源健康。

文章围绕AGI展开，介绍AGI路线图第二阶段“游戏即训练”，指出游戏是训练agent的理想环境；还提及Dreamer系列研究进展。同时涵盖本周市场动态、多家公司AI动态及ETF复制指数的方法、优劣和影响。

用强化学习让LLM具备推理能力耗费颇高，计算量会二次级增长。Mila和微软研究院等团队提出马尔可夫式思考机，重构强化学习形式，让计算量呈线性，实验效果显著，还能与先进模型兼容。

过去几年，AI成云计算行业统一叙事，但厂商口号趋同，差异化消解。当下AI从“炫技”走向“应用”，华为云在全联接大会2025上提出新组合，回应行业成本、基建和应用难题，不过路径也面临挑战。

该演讲笔记围绕强化学习流水线优化，强调用Nsight Systems做性能分析，介绍在Ray Actor添加参数及解读文件方法。给出训练/生成参数优化技巧，如Actor训练和Rollout优化，还以Qwen 2.5 7B等模型为例总结参数调优经验。