「Attention性能瓶颈」共找到 2427 篇相关文章
Meta 用一个烂 Web 应用替换原生 WhatsApp:Windows 用户活该将就?
Windows 11 版 WhatsApp 升级后只是在 WebView2 容器加载网页版,性能糟糕、卡顿,与 Windows 通知兼容性差。Meta 曾用原生应用替代 Web 版,如今又走回头路,让人担忧 macOS 版未来。
5分钟上手,无照就能飞:91万「空中F1」已经排到了2027
Jetson公司推出个人飞行器Jetson ONE,号称“空中F1”,亮相2025年UP.Summit并举办飞行比赛。它性能亮眼、安全性高,无照5分钟上手,售价91万,订单排到2027年。此外还介绍了其他飞行器。
GPT-5来了,全面第一,但不是AGI
2025年8月7日OpenAI推出GPT-5。它是统一系统,在多评测中领先,性能远超前代和竞品,价格便宜。但也有图示bug,马斯克称Grok 4在ARC - AGI上击败它,部分网友失望催GPT - 6。
OpenAI新Agent遭中国24人初创团队碾压!实测成本、质量全输惨,海外用户:中国Agent代差领先
昨日凌晨,OpenAI推出ChatGPT Agent新功能,标志其踏入“智能体人工智能”领域。虽官方称该功能性能先进,但实际效果有局限。海外网友对比发现,它被中国24人初创团队产品Genspark等碾压。
重塑AI记忆边界:MemOS开源!时序推理较OpenAI提升159%
近日,记忆张量等多家团队发布面向大模型的工业级记忆操作系统MemOS。它借鉴传统操作系统架构,实现AI记忆结构化管理,性能超OpenAI等方案,未来将成立社区、推进应用及持续迭代。
一文看懂华为昇腾芯片
文章介绍华为昇腾芯片,它是面向高性能AI计算的NPU芯片,有昇腾310、910、610等系列。还提及芯片演进、参数、价格、出货量等情况,以及基于芯片的硬件体系,覆盖多场景满足不同需求。
ICML 2025|如何凭「自动补全」实现100K生成3×加速?
在大模型推理复杂的当下,生成超长文本成本高。BIGAI NLCo团队提出推理加速框架TokenSwift,被ICML 2025接收。它重构传统自回归推理,解决长生成瓶颈,在多模型实验中表现亮眼。
马斯克的 Grok Bot 正在吞掉电脑,买 Mac mini 的事可以先缓缓
重度使用 Codex 大半年,电脑不堪重负,Agent 任务增多让本地电脑成瓶颈。Grok Bot 将 Agent 工作搬到云端,配云电脑,解决本地硬件难题,还为 Bot 分配独立屏幕,实现人机电脑分工。
Gemini 3「开眼」像素级操控!谷歌回应DeepSeek-OCR2
Google DeepMind为Gemini 3 Flash推出Agentic Vision,让模型主动编代码操控图像,性能提升5% - 10%。该能力已上线,谷歌还计划扩展功能。这或许是受DeepSeek-OCR2刺激,两者技术路线不同。
RTP-LLM 在相关性大模型中的推理优化最佳实践
淘宝搜索场景引入大参数LLM模型,面临系统性能挑战。本文分享基于RTP - LLM框架的优化实践,如大BatchSize调度、批次内前缀复用、MoE Kernel动态调优等,还提及未来优化方向。