「量化原理」共找到 413 篇相关文章
FlashAttention 完全进化史：FA-4 发布之际的技术全景回顾
文章围绕FlashAttention展开，从Attention性能瓶颈引出问题，阐述其各版本演进。FA-1实现算法突破，避免O(N²)内存；FA-2适配架构，提升性能；FA-3深度协同，实现异步；FA-4探索更深异步和角色分工。还探讨跨芯片迁移及未来优化方向。
重磅！OpenAI时隔五年再发布开源模型gpt-oss：开源SOTA，可在16g笔记本运行
谷歌推出Genie 3后，OpenAI宣布发布开源推理模型gpt-oss，有gpt-oss-120b和gpt-oss-20b两个型号，采用混合专家架构和4位量化方案，能快速推理，原生支持128k上下文长度。文章还介绍了模型表现、训练等情况。
全国首部AI智能体应用评估标准，现公开征集起草单位和个人
随着大模型热潮进入深水区，企业急需业务智能体，但因缺乏可量化评估标准，AI智能体应用面临选型、验收、优化困境。智合标准中心发起《企业级AI智能体应用效能评估规范》团体标准起草工作，现公开征集起草单位和个人。
GLM-4.7-Flash无审查版发布：30B MoE模型，仅3B激活参数
GLM-4.7-Flash无审查版由HauhauCS发布，基于原版移除审查机制。采用30B - A3B混合专家架构，总参数量31B，每次前向传播仅激活约3B参数，推理快，支持200K上下文长度，有两种变体和四种量化版本。
对话光帆科技董红光：Manus 让 Agent 走红，但真正的 AI 载体不只有手机
本文是对光帆科技创始人董红光的专访，围绕AI时代的交互与硬件趋势展开。董红光认为AI最合适载体非手机，光帆发布全球首款视觉感知AI耳机，介绍了产品设计原理、操作系统研发等，并探讨了AI硬件市场现状与未来。
小扎万字檄文炮轰硅谷，Meta重磅开源30B小钢炮！一台MacBook就能跑
Meta发布全新30B大模型Muse Glimmer并开源，用4-bit量化等技术让其能在本地设备运行，有五大核心超能力且采用Apache 2.0协议。同时，Meta CEO小扎发表万字檄文暗讽OpenAI等，抨击AI末日论等观点。
SDD-RIPER 团队落地指南：如何让整个团队在一周内跑通大模型编程
文章提供了 SDD - RIPER 团队落地方案，能让团队一周内跑通大模型编程，质量可控、效果可量化。阐述了推不动大模型编程的痛点及 SDD - RIPER 的解决办法，介绍了部署、实操流程和试点 SOP，还给出效果数据与常见问题解答。
华为超树HTP：不写示例、不调PDDL，AI规划约束通过率飙升62.6%
文章介绍华为超树HTP，它是完全自主、可泛化的推理新范式。能让LLM在超树结构上完成规划，不依赖人工示例和外部规划器，在复杂规划benchmark上实现SOTA准确率并降低token成本，还阐述其原理、创新点及应用实例。
大模型如何"不训练"也能学习？——上下文学习的隐式权重更新机制
大型语言模型能通过上下文学习（ICL）在推理时即时学习新任务，无需修改模型参数。本文首次证明自注意力层与MLP层组合能隐式将上下文信息转为MLP层低秩权重更新，解释了ICL原理，为构建AI系统开辟新路径。
智源RoboBrain 2.0+RoboOS 2.0双发：问鼎评测基准最强具身大脑，刷新跨本体多机协作技术范式
近日，智源研究院发布具身大脑 RoboBrain 2.0 32B 版与跨本体大小脑协同框架 RoboOS 2.0 单机版。前者突破能力瓶颈，在多项基准测试表现优异；后者性能提升，实现轻量化部署。二者双擎联动推动机器人迈向群体智能，且已全面开源。