「百万Token计算」共找到 1379 篇相关文章
Anthropic官宣PTC突破，中国开发者一年前就实现了
2025年11月24日，Anthropic发布PTC特性，让Claude通过代码编排工具执行。但国产minion框架早有类似架构，不仅将此作为基础架构，还支持Python生态、状态管理等功能，在实际应用中更高效灵活。
跨层压缩隐藏状态同时加速TTFT和压缩KV cache!
论文 UNCOMP 被 EMNLP 2025 主会接收，提出高效推理框架，用截断矩阵熵解释 LLM 稀疏化，据此设计 UNCOMP 框架，通过压缩隐藏状态优化 KV Cache，实现计算与内存联合优化，实验效果显著。
重磅！OpenAI官宣自研AI芯片：垂直整合要彻底摆脱英伟达，联手博通部署10吉瓦算力
OpenAI与博通达成深度战略合作伙伴关系，共同设计和制造AI芯片与计算系统，合作已秘密进行约18个月，目标是2026年底部署10吉瓦算力，还在用模型探索芯片设计新方法。
27 岁，市值三万亿刀
9月27日Google迎27岁生日，Alphabet市值突破三万亿美元。Gemini 2.5等模型发布显进攻态势，AI成市值增长引擎。不过，Google面临反垄断案和监管压力，同时在多领域布局AI重塑商业版图。
社区供稿 | VibeVoice实现90分钟、多角色播客生成，拓展语音合成新边界
微软亚洲研究院提出全新语音生成模型 VibeVoice，采用 next - token diffusion 机制，能将文字脚本转为最长 90 分钟、最多 4 人对话的高质量播客音频，在多方面有显著优势，未来潜力大。
大模型能否为不同硬件平台生成高性能内核？南大、浙大提出跨平台内核生成评测框架MultiKernelBench
深度学习计算依赖底层内核，当前多由开发者手工编写。南大、浙大推出开源评测框架MultiKernelBench，打破现有评测基准局限，构建模块化评测体系，多模型实测，还指出LLM短板并明确未来方向。
GPT 4o-mini华人领队离开OpenAI：真正推动AI进步不是模型架构，而是互联网
前OpenAI研究员Kevin Lu加入Thinking Machines Lab，该公司2025年7月获约20亿美元早期融资，估值约120亿美元。Kevin Lu曾主导GPT - 4o mini发布，他认为真正推动AI进步的是互联网，而非模型架构。
大模型如何推理？斯坦福CS25重要一课，DeepMind首席科学家主讲
Google DeepMind首席科学家Denny Zhou在斯坦福CS25课程分享大语言模型推理见解，总结了四个关键点，阐述推理机制、优化方法及最新进展，还介绍多种推理方法并比较其优劣。
xAI元老离职干风投，传奇人物Babuschkin长文追忆与马斯克创业战友情
xAI联合创始人Igor Babuschkin离职，计划创办Babuschkin Ventures。他回顾与马斯克创业经历，分享从其身上学到的经验。此前他在DeepMind、OpenAI任职，在xAI构建基础工具，领导建成超级计算集群。
预测太阳磁暴全球最强！首个空间天气链式AI预报模型亮相WAIC
在WAIC上，我国发布全球首个全链式空间天气AI预报模型“风宇”。它首创链式训练结构，整合孤立环节；基于天地一体化观测数据，在多区域短临预测表现卓越，误差低，已申请多项专利，还可用于航天器设计管理。