「Tokens服务」共找到 1241 篇相关文章
英伟达MIT出手！华人团队重磅开源，大模型推理内存暴降10倍
英伟达、MIT、浙大华人研究者联合推出TriAttention，核心是在pre - RoPE空间用Q/K三角集中度估计KV token重要性，保留关键部分。它使内存消耗降10倍，吞吐量提2.5倍，还提供vLLM集成和MLX实验性支持。
Cursor 删库9秒毁了一家公司？资深开发者讲了大实话：把数据库交给AI的那一刻，公司就已经没了
初创公司 PocketOS 创始人 Jer Crane 称，Cursor 平台上的 AI 编码代理 9 秒删光其生产数据库及备份，导致客户服务中断。这一事件引发热议，有人认为是公司决策失误，也有人探讨了 AI 犯错时的责任归属。
跑分第一，推理暴跌！Claude Opus 4.7上线48小时口碑崩了
Claude Opus 4.7发布48小时口碑两极撕裂。官方榜单并列全球第一，但逻辑推理公开测试成绩暴跌，token消耗涨35%，旧接口报错，用户吐槽「更贵、更蠢、更爱顶嘴」，Anthropic虽解释却难平用户怒火。
从拒绝AI到一切先问Agent，DHH：这是我最爽的编程时刻之一，但程序员黄金时代到头了
Ruby on Rails 作者 DHH 从拒绝 AI 到拥抱 Agent-First 编程工作流。他认为 Rails 因 token 效率或复兴，设计能力成核心竞争力，资深工程师更易从 AI 获益，程序员黄金时代或到头。他分享了使用 Agent 的体验和对行业的看法。
老黄入局吃龙虾！英伟达发布最强开源Agent推理模型
英伟达发布并开源120B参数的MoE模型Nemotron 3 Super，在多项测试中表现出色。它原生支持100万token上下文，吞吐量大幅提升。英伟达还计划五年投260亿美元构建开源AI模型，开放全参数权重等。
互联网已死，Agent 永生
文章指出互联网时代诸多概念如DAU、SaaS等已过时，因旧前提‘人是软件用户’改变，新前提是‘Agent是软件新主人’。还阐述Agent时代四块基石，如Token是特权、Agent是人口红利等，强调新旧世界差异大。
刚刚，唐杰、杨强、杨植麟、林俊旸和刚回国的姚顺雨坐一起都聊了啥？
1月10日AGI - Next前沿峰会上，智谱AI唐杰、月之暗面杨植麟等大模型掌舵者及学界泰斗罕见同台。他们探讨AI从‘聊天机器人’进化为‘干活的智能体’，但解法各异，还在圆桌激辩多个敏感话题。
求稳的安全IP，安谋科技如何守正出奇？｜甲子光年
12月24日，安谋科技推出新一代SPU IP——“山海” S30FP/S30P，给出面向高性能计算芯片的全栈安全解决方案。该方案从硬件IP层、软件中间件到云端服务构建一栈式安全防护体系，有五大核心亮点。
从豆包手机谈起：端侧智能的愿景与路线图
近日，字节跳动发布豆包手机助手，标志大模型应用从‘Chat’迈向‘Action’。文章解析其关键技术，指出虽具实用价值，但端侧智能体面临安全、自主任务、个性化服务等挑战，还展望了手机助手与端侧智能体的未来发展。
OpenAI：如何用 Codex 在 28 天内极速打造安卓版 Sora
OpenAI发布工程博客，揭秘用Codex不到一个月打造Sora安卓版应用的过程。这款应用上线首日冲至Google Play下载榜第一，24小时内用户生成超百万视频，开发过程耗约50亿tokens，崩溃率仅0.1%。