「Attention性能瓶颈」共找到 2427 篇相关文章
AI算力饥渴和高能耗困局谁来解？两位95后创始人用相变材料光计算构建新范式
AI算力供需失衡致数据中心能耗激增，传统电芯片性能提升放缓。光本位科技由两位95后创立，2024年6月流片全球首颗128×128矩阵规模光计算芯片，推动光计算商业化，正布局产品商用。
中兴发了一篇论文，洞察AI更前沿的探索方向
当大模型参数量冲向万亿级，AI 行业面临瓶颈。中兴通讯发布论文剖析困境，勾勒前沿方向。文中分析了 LLM 现状、架构瓶颈、AGI 争议等，还阐述了改进优化措施及下一代计算范式发展趋势，介绍了中兴的探索实践。
Anthropic 突发 Sonnet 5，但大家更期待 Fable 5 和 Mythos 5 明天解禁
昨夜凌晨，Anthropic 突然推出 Claude Sonnet 5，自封“性价比之王”。它重点提升计划制定等能力，价格更低，安全性能提升，但网络安全能力弱于 Opus 4.8 和 Mythos 5。不过用户反馈平淡，Anthropic 面临高端模型受阻和访问控制争议等问题。
“别急着裁底层，很多高管才最该被 AI 接管？”
文章围绕AI在企业中的应用展开，探讨AI预算分配、build vs buy、岗位替代等问题。指出AI预算将按人分配，建东西变便宜但有瓶颈，高层瓶颈更适合先被AI优化，代码审查或成高风险环节。
从MiniMax到DeepSeek：为何头部大模型都在押注「交错思维」？
昨日推特博主公布国内几大开源模型在 mini - SWE - agent 测试成绩，MiniMax 新一代大模型 M2 表现最佳。其采用的「交错思维」技术成亮点，解决了状态漂移问题，正成高性能 Agent 模型标配。M2 既强又省，还给出使用最佳实践。
6.1B打平40B Dense模型，蚂蚁开源最新MoE模型Ling-flash-2.0
蚂蚁百灵大模型团队开源 MoE 大模型 Ling-flash-2.0，其以轻量级配置展现卓越性能，在推理速度、任务性能、部署成本间找到新平衡，为大模型‘参数膨胀’提供新路径，还在多领域应用表现出色。
手机跑推理模型：Liquid AI发布仅需900MB内存的LFM2.5-1.2B-Thinking
Liquid AI发布LFM2.5 - 1.2B - Thinking推理模型，仅需900MB内存就能在手机运行。它专为简洁推理训练，性能提升明显，多数性能基准超Qwen3 - 1.7B，在多平台表现佳，还支持主流推理框架。
OpenAI公布首颗自研推理芯片成绩，下一代已进入制造阶段
8月25日，OpenAI公布自研推理芯片Jalapeño性能测试结果，首次给出其在多款公开大模型上的具体数据。该芯片在低功耗下实现高推理吞吐量和低延迟，性能超英伟达芯片，B0版已进入制造阶段。
AI 狂潮中，电子业破局：国产先进封装加速突围
AI应用渗透使算力需求结构重塑，传统芯片技术升级遇阻，先进封装技术成关键。文中介绍DeepSeek架构突破、DeepSeek - R1算法革新，分析其对算力需求的影响，指出高性能算力芯需求仍高，先进封装能释放芯片性能，国产有望突破。
阿里云Tair KVCache仿真分析：高精度的计算和缓存模拟设计与实现
阿里云Tair KVCache团队推出Tair - KVCache - HiSim，这是面向分布式多级KVCache管理的高保真LLM推理仿真分析工具。它能在通用CPU上高精度预测性能，支撑计算选型、存储规划和调度协同等决策，还介绍了其架构、组件、验证及性能评估等内容。