资源压缩」共找到 604 篇相关文章

新闻资讯7

The Batch:836 | 基准测试成本攀升

独立AI测试实验室披露评估推理模型成本上升。这些模型生成“思维链”提升输出质量,但计算需求增加,成本上升使资源有限组织难复现结果,且新模型定价、按需分配推理token也让成本更复杂。

DeeplearningAI
算法论文8

无需SFT也不用RL,样本级推理优化神器SLOT来了,准确率轻松+10%

西湖大学MAPLE实验室开发的SLOT方法,无需SFT和RL,让模型推理时“临时学习”具体问题。它简单易实现,计算开销小,能使模型准确率大幅提升,还无需额外资源,在各规模模型上效果显著。

机器之心
推荐文章7

大模型之外,向量存储如何支撑 Agent 的检索链路

文章指出大模型负责理解、推理和生成,而Agent需获取外部数据等。向量存储可将数据转化为语义向量,在Agent执行任务时找回相关内容。文章探讨向量存储技术方向,分享做法,还演示阿里云两种Serverless向量存储用法。

阿里云开发者
新闻资讯7

冷战核废墟变8吉瓦AI超级工厂!黄仁勋押15亿,OpenAI独霸20年

英伟达、OpenAI和软银要将美国俄亥俄州冷战核废墟改造成全球最大AI超级工厂,终极电力规划达8吉瓦。黄仁勋宣布注资、担保,OpenAI签长约,孙正义改造电网,这或成稳赚买卖。

新智元
新闻资讯8

刚刚英伟达核弹级战略曝光!老黄宣布联手奥特曼圈地圈电,狂卷16GW算力霸权

英伟达宣布亲自下场锁定土地、电力和厂房等资源建超级AI工厂。与SB Energy联手在美拿下LPS容量,租客是OpenAI。文章分析合作原因、价值,解答外界疑问,称英伟达成全栈AI基建平台。

AI寒武纪
新闻资讯7

中国光芯片迎来“迈向高端”黄金窗口期

近期光芯片领域热度攀升,政策、产业、资本利好。AI算力爆发使光芯片从‘通信管道’升级为‘战略性资源’,需求大增但供给端短板凸显。本土产业链分层,高端赛道迎来突破窗口期,有三条主流技术路线。

芯师爷
新闻资讯8

存储大繁荣:盛宴与倒计时

AI带动存储行业繁荣,三星、美光、SK海力士一个月内登顶万亿美元市值,终结旧周期格局。中国长江存储和长鑫科技崛起,补全产业链拼图。但行业新旧范式切换,周期未终结,各方需应对挑战。

芯师爷
算法论文7

大模型也需要睡觉!让AI打个盹,醒来更聪明

卡内基梅隆大学和马里兰大学研究发现,大模型处理长上下文易累傻。受人脑机制启发,设计睡眠机制,让模型在上下文窗口快满时打盹,反复咀嚼信息,压缩进长期权重。测试显示,增加“睡眠”轮次能提升深度推理表现。

量子位
产品应用7

给 AI 戴上六顶思考帽

作者探讨如何让 AI 长时间高质量输出,提出初版方案。后借助「六顶思考帽」思维法,用 Moxt 产品创建 6 个 AI 同事评审草稿,各帽给出反馈,AI 间通过文件协作,Moxt 有小问题但方向值得关注。

AGI Hunt
开源动态8

深度解析 OpenClaw 在 Prompt / Context / Harness 三个维度中的设计哲学与实践

文章从Prompt、Context和Harness三个维度解析OpenClaw设计思路。Prompt工程有动态组装与文件驱动特点;Context工程含可扩展技能、上下文压缩修剪及双层记忆管理;Harness工程为模型套“马具”,保障其可控运行。

阿里云开发者