「前缀和计算」共找到 7269 篇相关文章
逐项解读黄仁勋GTC演讲：Vera Rubin、token王、英伟达“龙虾”、太空计算和雪宝｜甲子光年
美国当地时间3月16日，英伟达创始人黄仁勋在GTC 2026演讲，发布五项重要技术，包括下一代AI计算平台Vera Rubin等。他想让英伟达成AI基础设施公司，强调token成本，认为AI工厂是工业基础设施。
Stanford、Meta和Google等发现LLM存在五大天花板，再扩算力已无用
论文《On the Fundamental Limits of LLMs at Scale》指出，LLM性能提升有理论天花板，扩展中会遇幻觉、上下文压缩等五大根本限制，源于计算、信息与学习理论，未来应转向‘有限优化’。
吃灰 AI 眼镜爆改“交警 Copilot”，函数计算AgentRun 实操记录
作者将吃灰的Meta Ray - ban眼镜爆改成“交警Copilot”，介绍了“端 - 管 - 云”协同框架，分享客户端与服务端开发过程。还探讨用Agent架构和FaaS的原因，指出其在应对需求变化、节省成本等方面优势，最后提及项目待优化处。
√N并行+84倍计算加速！英伟达港大全新图像注意力：空间结构都保留
英伟达、港大等研究人员提出新型视觉注意力机制GSPN，通过线性扫描和稳定性 - 上下文条件处理图像空间结构，降低计算复杂度至√N量级，在多视觉任务达先进水平，生成16K图像加速超84倍。
DeepSeek悄悄更新：Mega MoE、FP4 Indexer来了
昨天下午，DeepSeek 更新了 DeepGEMM 代码库，带来新东西 Mega MoE。它将 MoE 计算流程整合，让数据通信和计算同时发生，提高 GPU 利用率。还尝试组合精度、搞 FP4 indexer 等，是基础设施层重构尝试。
百度开源视觉理解模型Qianfan-VL！全尺寸领域增强+全自研芯片计算
今天百度智能云千帆推出全新视觉理解模型Qianfan - VL并全面开源，含3B、8B和70B三个版本，基于自研昆仑芯P800计算。它特点多、性能优，应用场景广，未来还将推新产业级模型。
阿里云Tair KVCache仿真分析：高精度的计算和缓存模拟设计与实现
阿里云Tair KVCache团队推出Tair - KVCache - HiSim，这是面向分布式多级KVCache管理的高保真LLM推理仿真分析工具。它能在通用CPU上高精度预测性能，支撑计算选型、存储规划和调度协同等决策，还介绍了其架构、组件、验证及性能评估等内容。
太初元碁洪源：异构计算能力将成为未来AI算力基础设施的重要方向｜AIGC2026
2026年AI产业进入高强度算力周期，Token成核心资源消耗单位。太初元碁洪源认为，AI算力需更好支撑应用，异构计算将成未来AI算力基建重要方向，太初元碁也在多方面探索实践。
黄仁勋凌晨炸场：6G、量子计算、物理AI、机器人、自动驾驶全来了！AI芯片营收已达3.5万亿｜2025GTC超全指南
美东时间10月27日英伟达GTC大会开幕，黄仁勋演讲涉及6G、量子计算等热词。官宣与诺基亚合作建6G AI平台，还投资10亿美元。此外，英伟达AI芯片订单总额达5000亿美元，股价创新高。黄仁勋还阐述AI是新计算方式。
Anthropic 技术栈里的「五宗罪」由何而来？
Anthropic的Claude模型升级后，用户却觉得不好用。X上帖子指出其存在文本和代码标记、模型能力、定价、长上下文等问题，这些问题卡在生成、计算、上下文和Agent运行时的5个具体位置，导致各方面互相拖后腿。