稀疏性」共找到 572 篇相关文章

产品应用7

Qwen3-Next全新架构,32K场景MTP吞吐提升10倍

随着模型大小和上下文长度增加,为应对成本和部署挑战,Qwen3 - Next有突破架构创新,解决上下文长度和总参数缩放问题。它采用混合注意力、超稀疏MoE等,MTP机制让其长上下文推理吞吐量比前身高10倍以上。

CourseAI
新闻资讯7

Sam Altman:我嫉妒死现在的年轻人了!

当下年轻人面临裁员、内卷,奥特曼却称他们是最幸运一代,引发争议。文章指出过去靠努力升职加薪的逻辑在AI时代失效,流程岗位被自动化接管,权力从大厂下放个人,还提醒要适应新变化。

新智元
算法论文8

只需1/4预算,能反超基线:阿里高德提出Tree-GRPO,高效破解智能体RL难题

阿里高德提出Tree - GRPO方法解决智能体RL难题。它以智能体步骤为节点树搜索,在11个数据集中更省预算、表现更好,能在1/4预算超GRPO基线,解决了Rollout成本高和监督稀疏问题。

机器之心
算法论文8

GRPO遭遇瓶颈?G²RPO-A让自适应指导为小模型推理能力「开外挂」

大模型推理能力难迁移到小模型,现有强化学习方法如GRPO在小模型上能提升有限。香港中文大学(深圳)唐晓莹教授团队提出G²RPO - A算法,缓解小模型奖励稀疏问题,在多模型实验中表现优于vanilla GRPO。

机器之心
新闻资讯7

OpenAI大变革!继续与微软等,以非营利模式冲击AGI

今天凌晨2点,OpenAI宣布继续由非营利组织控制,营利实体转变为公共利益公司。此前转型营利公司引发争议,此次调整是听取各界意见后做出,旨在让AI造福全人类。

AIGC开放社区
推荐文章8

构建 Agent Native 软件的完整技术指南

Dan Shipper 和 Claude 联合撰写构建 Agent 原生软件技术指南,总结如何重新思考软件架构,让 Agent 成软件一等公民。指南源于实战,介绍构建原则、方法、执行模式等,还提及产品影响、移动端挑战及应对。

AGI Hunt
新闻资讯8

李飞飞最新长文:AI的下一个十年——构建真正具备空间智能的机器

李飞飞发表长文《From Words to Worlds: Spatial Intelligence is AI’s Next Frontier》,解读空间智能,阐述构建具备空间智能机器的核心框架,探讨其应用场景,认为这是AI下一个前沿。

机器之心
产品应用8

一文读懂DeepSeek-V3.2核心技术DSA:API疯狂降价能不减的背后

DeepSeek发布实验模型DeepSeek V3.2,引入自研稀疏注意力机制DSA,API价格最高降75%。DSA先筛选后计算,含闪电索引器和稀疏多潜在注意力两组件,分四步工作,权衡了精确与速度。

AI寒武纪
新闻资讯7

Next.js 真有那么好用吗?Netlify 谈他们遇到的六个现实问题

Netlify 部署大量 Next.js 网站时遇到诸多挑战。如无适配器支持、无生产级无服务器部署文档、存在未文档化行为、未基于开放 Web 标准、缺乏路线图可见和发布可预测等,并提出应对办法与展望。

InfoQ
开源动态8

腾讯混元AI开源3D世界生成模型!文图即可生成3D沉浸式场景!

腾讯混元AI实验室开源HunyuanWorld 1.0,这是业界首个支持沉浸式、探索和交互3D世界生成的全开源模型。它能通过文图生成3D场景,为多领域提供支撑,还给出安装和代码使用示例。

开源星探