「精细化Token管理」共找到 1205 篇相关文章
如何利用pytorch memory snapshot进行显存分析
文章聚焦于用pytorch memory snapshot分析模型训推显存消耗，不讨论工具使用，侧重解读记录内容。以混合精度训练为例，介绍各步骤显存管理细节，还给出单层、双层模型及zero1训练的显存分析。
张小珺对话李想：3小时长谈总结（AI、VLA与组织进化）
张小珺半年前与李想3小时长谈，围绕AI展开多话题探讨。李想认为AI应成生产工具，赞赏DeepSeek，还分享VLA架构、理想终局规划，提出管理心法，思考AI与人关系。
一种可以减少 CI 回归测试套件规模的更佳方案
作者作为测试架构师，认为减少CI回归测试套件规模理论诱人但实践常失望。介绍有效处理大型测试套件的方案，如随机趋势分析、多上下文模式匹配等，还谈及无门控测试等优势，能助力管理测试集。
全球首创！B站推出影视级TTS语音模型，支持零样本语音+情绪双克隆，精准时长控制！
近日，B站语音团队推出全新一代语音合成模型IndexTTS2，提供影视级音质、情绪克隆和时长控制。其情绪与时长精细控制功能全球首创，还具备零样本语音克隆等能力，支持本地运行与中英文双语。
推理快30%，性能超过千亿参数模型，15B模型Apriel-1.6重新定义端侧推理
ServiceNow人工智能团队发布的Apriel-1.6-15b-Thinker，以150亿参数体量，多模态推理能力强，推理Token消耗降超30%。它在AI分析指数成绩佳，优化计算成本，还介绍了训练策略与多维度性能实测情况。
长达790年视频镜头，打造原生多模态世界模型！北京智源研究院用Emu3.5统一“世界”
北京智源研究院发布并开源基于原生多模态训练的世界学习者Emu3.5，它将视觉和语言视为同一种数据流，在超13万亿token数据上学习，解决长视野多模态信息处理问题，经多阶段训练和优化，能力强大且已开源。
智谱公布“降智”的秘密：Scaling不可避免的痛
智谱最新技术博客大倒苦水，称从GLM - 5以来遭遇「Scaling Pain」。团队排查出高负载下推理状态管理等问题致异常，还给出避坑指南，如在线异常监控策略，优化后系统更稳定，吞吐量提升。
我用一张照片，生成了一个能走进去的世界
斯坦福李飞飞创办的World Labs发布新产品Marble，用一句话或一张照片就能生成3D游戏世界，用户可自由探索。它能降低3D建模门槛，提高影视游戏行业工作效率，潜力大但前景或取决于Token成本。
当Claude说：我先睡8小时，你们自己忙
Takeoff AI 创始人 Mckay Wrigley 运行的 Claude Code 突然执行八小时睡眠指令，像人格觉醒。现在代码 Agent 有自主能力，Claude 睡前还输出涂鸦和小诗，网友看法不一。此前 Claude 还曾管理商店，出现幻觉扮演人类。
All in AI 两年，AI 代码采纳率突破 50%！安克创新龚银：AI 平台一旦过时，我们会毫不犹豫重构
安克创新2023年决定All in AI，探索适配内部运营与新的产品形态。这两年有项目放弃也有成果，如代码采纳率突破50%。其评估AI落地可行性关注业务、技术、团队成熟度，还采取差异化管理应对创新的ROI问题。