「激活值内存」共找到 637 篇相关文章
“像把大象塞进冰箱一样困难”，端侧大模型是噱头还是未来？
InfoQ《极客有约》X AICon 直播聚焦端侧大模型，探讨其落地挑战与破局思路。专家指出端侧部署有隐私、可用性等优势，但面临内存、精度等难题。华为、支付宝等分享方案，还探讨应用场景、商业模式及未来趋势。
2个设置，让Codex体验翻倍
文章分享两个提升Codex使用体验的技巧。一是在config.toml里添加配置，让非计划模式能主动提问；二是用特定提示词测试gpt的juice值，选正常思考程度的模型使用，提升使用心情。
马斯克xAI又融了200亿美元！老黄说到做到投了更多
刚开年，马斯克的xAI完成E轮融资，达200亿美元超预期。英伟达和思科等继续支持，其估值预计从500亿涨至2000多亿。还公布《xAI 2025年终总结》，Grok 5正在训练，传闻一季度推出。
代码怎么才能跑的更快
文章围绕让代码跑更快展开，先介绍调整源代码的方法，如降低循环开销、去除内存引用等，又阐述使用硬件加速指令，像用 SIMD 函数、避免分支语句等，还提及多核并行和分析瓶颈等要点。
AI 出图为什么总很土？2100 星开源 Skill 用 244 行给了答案
AI出图常显土气，开源项目`gc - minimal - zine - poster`用244行文档给出答案。它将日系zine感拆分为可执行指令，规定九个渲染问题，还给出取值区间和自检方法，能防止风格自我复制，且适配多种Agent。
顶会SOSP'25最佳论文，被一个国产自研操作系统拿下
国产自研开源操作系统星绽的学术论文获顶会SOSP'25最佳论文。它专注高可扩展内存管理研究，兼顾性能与安全。星绽由多单位联合研发，用Rust语言，解决传统系统难题，已有多篇论文被国际顶级学术会议录用。
27亿美元天价回归！谷歌最贵「叛徒」、Transformer作者揭秘AGI下一步
在Hot Chips 2025上，Transformer发明者之一、谷歌Gemini联合负责人Noam Shazeer指出LLM发展需更多算力、内存等硬件支持。微软AI的CEO Mustafa Suleyman预测2026年底前LLM或成“行动型AI”，还提及失业潮等问题。
AI公司创始人现跑路迪拜！80%收入烧广告、假账骗投资人，微软都被坑：硅谷的第一个AI大泡沫出现了！
AI独角兽公司Builder.ai估值15亿美元，现破产清算。创始人Sachin Dev Duggal跑路迪拜，公司花80%收入宣传，还用假账骗投资。此前就被指无AI能力，靠人工开发。当下虚假AI盛行，多家相关公司涉欺诈。
重塑注意力机制：GTA登场，KV缓存缩减70%、计算量削减62.5%
GTA由多所高校联合研发，提出大模型框架，解决传统多头注意力机制弊端。通过分组共享注意力矩阵和压缩潜在值表示，削减计算量、缩减KV缓存，实验验证其性能优、效率高，虽有局限但前景好。
用动作分块突破RL极限，伯克利引入模仿学习，超越离线/在线SOTA
如今强化学习在多领域成果显著，但在长跨度、稀疏奖励任务中表现欠佳。加州大学伯克利分校研究者提出Q - chunking方法，将动作分块引入基于时序差分的强化学习，解决探索效率和值传播问题，实验表现优异。