降本方案」共找到 1378 篇相关文章

算法论文8

大模型能“原地”改参数了!字节Seed&北大新论文:测试时推理无需加层重训练

字节Seed和北大研究团队提出In - Place TTT方案,让大模型能“原地改参数”。它复用Transformer的MLP模块,解决现有TTT架构不兼容、计算效率低和优化目标不匹配问题,实验证明可提升模型长文任务表现。

量子位
开源动态7

推理成75%!gpt-oss用新数据类型实现4倍推理速度,80GB显卡能跑1200亿参数大模型

OpenAI在gpt - oss开源模型采用MXFP4数据类型,使推理成75%,内存占用为BF16模型四分之一,生成token速度提4倍,还能低硬件资源需求。不过MXFP4也有缺陷,英伟达推出NVFP4提升质量。

量子位
开源动态8

Meta 新成立超级智能实验室,让大模型RAG推理速度飙升30倍

Meta新成立超级智能实验室(MSL),首篇论文REFRAG将RAG推理速度提升30倍以上。它先把上下文压缩成摘要再解码,减少计算量和延迟,在多任务测试中表现出色,为大模型部署提供实用方案

AIGC开放社区
推荐文章8

认知重建:Speckit 用了三个月,我放弃了——走出工具很强但用不好的困境

文作者分享使用 Speckit 三个月的踩坑经历,探讨 AI 编程工具落地难题。介绍复合工程与上下文工程理念,提出 AI 工程化方案,对比传统工具,阐述其设计、落地策略及未来趋势,助力解决企业开发痛点。

腾讯技术工程
开源动态8

性能逼近闭源最强,通义实验室开源Mobile-Agent-v3刷新10项GUI基准SOTA

通义实验室开源 Mobile-Agent-v3,覆盖多平台,7B 超同类开源,32B 挑战闭源强手。它有基于云环境的全链路开源方案、全栈 GUI 能力构建和可扩展环境强化学习体系,低部署开销。

机器之心
算法论文8

ICML 2025 Oral工作再升级!上海AI Lab联合复旦、港中文推出支持更长视频理解的最佳工具VideoRoPE++

上海AI Lab联合复旦、港中文推出支持更长视频理解的工具VideoRoPE++。它确定了将RoPE应用于视频的关键特性,构建评测基准V - RULER,提出外推方案YaRN - V,在多任务中优于先前RoPE变体。

机器之心
算法论文8

北大联手通义实验室发布ZeroSearch:成88%,无需搜索即可激活大语言模型的检索能力!

北大与通义实验室发布ZeroSearch框架,可无需真实搜索激活大语言模型检索能力。它引入大语言模型模拟搜索、采用结构化模板等策略,成88%,多项实验显示其性能超越基线与真实搜索方法。

深度学习自然语言处理
产品应用8

搜攻略到凌晨3点?飞猪AI“问一问”用1张表谋杀废话

作者用旅游方案提示词测试各类Agent产品,多输出废话。飞猪“问一问”旅行Agent却很厉害,能生成实用旅行规划,还给出汇总表格、地图、行程卡片等,考虑全面且细节丰富,还能找特价机票。

歸藏的AI工具箱
产品应用7

如何管理和调度Dify工作流?

文章介绍Dify这一开源大模型应用开发平台,指出其工作流存在无定时调度和监控报警、执行记录过多致性能差等痛点。给出Dify Schedule和XXL - JOB两种集成Dify工作流方案,并分析各自优缺点。

阿里云开发者
新闻资讯7

OpenClaw中国行北京站落幕,3万人围观养虾,周12城活动继续

2026年3月21日,OpenClaw中国行首站北京站举办,近200名开发者参与,直播间3万多人围观。活动上开发者30分钟可跑通AI应用,多位嘉宾分享使用经验,周末将在12城继续开展。

AI前线