「Tokens服务」共找到 1237 篇相关文章
2027年至少营收1万亿美元！龙虾就是新操作系统丨黄仁勋GTC万字实录
2026年3月16日英伟达GTC大会上，黄仁勋阐述英伟达从芯片公司向AI基础设施和工厂公司的蜕变，给出强劲业绩预期，介绍“Token工厂经济学”，还展示新系统、技术，提及AI软件和生态革命等。
首个大规模记忆湖发布，AI Infra跑步进入“记忆”时代
LLM是AI的“第一大脑”，记忆平台是“第二大脑”。当前AI企业应用进入生产力时代，竞争聚焦“隐性知识”记忆化。质变科技发布MemoryLake，具备多方面能力，在性能上优势显著，已服务众多用户和企业。
关键突破：理论验证了 RL for LLM 路线的可行性
传统RLHF依赖人工标注偏好数据训练奖励模型，成本高且难扩展。本文发现任何通过Next - token预测训练的LLM内部隐含通用奖励模型，从理论和实验证明其可高效实现模型对齐。
谁在重新定义 AI 云？
过去几年，AI成云计算行业统一叙事，但厂商口号趋同，差异化消解。当下AI从“炫技”走向“应用”，华为云在全联接大会2025上提出新组合，回应行业成本、基建和应用难题，不过路径也面临挑战。
突发！Anthropic禁止中国控股公司使用Claude等，无论公司在哪都不行
9月5日，Claude开发商Anthropic发布公告，停止向多数股权由中国资本持有的集团或子公司提供Claude服务，无论运营地点在哪。此举涉及法律、监管和安全风险，也适用于俄、伊、朝等国实体。
vLLM 技巧： 在几秒钟内无需重启释放90%的 GPU 显存
EmbeddedLLM介绍vLLM新功能“休眠模式”，可在不重启服务时几秒内释放约90% GPU显存，实现模型热插拔与高效轮转，还介绍使用方法、不同休眠级别，提醒生产环境要确保安全。
这个开源项目 OpenStory，把 AI 短剧制作变成了一条可复制的工业流水线！
现在制作完整AI短剧流程繁琐，很多团队是小作坊式生产，效率低且难规模化。OpenStory开源项目站在成熟AI服务肩上，将AI短剧制作工业化，能把剧本变成风格统一的视频作品，解决诸多痛点。
TACO: 让 CLI Agent 在自主迭代中学会丢掉无用上下文
由多校及研究团队联合提出 TACO，这是无需训练、即插即用的终端智能体自进化观测压缩框架。它能让智能体学习压缩规则，过滤低价值输出，保留关键线索，实验显示其提升了任务成功率和 token 效率。
中国AI创业者重登GTC舞台：杨植麟用技术语言讲了一个智能上限突破的浪漫故事｜甲子光年
美国当地时间3月17日，月之暗面（Kimi）创始人杨植麟在英伟达GTC演讲，介绍Kimi技术路线图。他提出开源模型要出色，给出Token效率、长上下文、智能体集群三个概念，还探索了未来架构，且将创新开源。
Cursor 重新定义 Agent：脑子再大，不如会翻书。
Cursor 分享博客指出，Dynamic Context Discovery 效果远好于 long context 方式，开启动态上下文可使总 Token 消耗降 46.9%，还能减成本、降延迟、提准确率，但也存在成本转嫁、工程复杂度高和安全风险等问题。