「推理加速技术」共找到 4926 篇相关文章
面壁MiniCPM-SALA模型，稀疏-线性注意力，单卡吞吐百万上下文
面壁智能团队提出SALA，基于此训练的MiniCPM-SALA模型，在单张A6000显卡实现百万token超长上下文推理，训练成本降约75%。它结合稀疏与线性注意力，采用混合架构，继承权重降低成本，在长文本处理上优势明显。
DeepSeek深夜炸场，开源了一个新项目&论文，V4打前站？
凌晨，DeepSeek开源新项目Engram并公开论文。Engram用可扩展的O(1) N - gram记忆替Transformer早期层节省算力，在多方面实验表现出色，如推理任务增幅大于知识任务，还分析了其机理和系统效率。
腾讯混元世界模型HY-World 1.5开源，24 FPS的实时交互世界建模
腾讯混元世界模型HY - World 1.5开源，实现24 FPS实时交互世界生成。它采用双重动作表征等技术，解决了长程生成问题，还通过强化学习等优化，在多方面表现出色，为具身智能场景模拟奠基。
烧3万亿美元实现ASI，把自己优化掉：这是硅谷CEO们的新赌注
硅谷大佬热衷预言AI接管公司，皮查伊称CEO工作AI易胜任，奥特曼想让OpenAI由AI掌管。但当下技术连自动售货机都难经营好，科技巨头豪掷3万亿，纳德拉却认为AI难掌管公司。
“分身术”来了！MANA创作者扶持计划带你走进MUMA Island的未来分身实验
文章介绍数字时代“分身术”，它是身份与叙事实验。从概念源流到技术支撑展开阐述，MUMA Island打造“三式分身”创作矩阵，MANA创作者扶持计划重视该项目，有前沿性、可复制性和社会价值，还公布活动信息。
天工Skywork开始"看"小红书了，1247个帖子的图片信息被它吃透！
昆仑万维技术发布周推出Skywork Deep Research Agent v2。它整合多模态检索理解和跨模态生成能力，有信息检索、小红书Agent等功能，Office Agent也有升级，还新增积分预估等特性，邀测后将全量开放。
OpenAI惊人自曝：GPT-5真「降智」了！但重现「神之一手」，剑指代码王座
GPT-5发布后引发热议，其IQ测试成绩不佳遭吐槽，但实际是「路由」问题。解锁神级GPT-5关键在prompt，医学家借它重现「神之一手」。它编程能力强，挑战Anthropic，还推动AI向「智能体式推理」发展。
刚刚，Anthropic发布Sonnet 5，性能接近Opus 4.8，但不一定更便宜
Anthropic发布Claude Sonnet 5，称其为最具Agent属性的Sonnet模型。它在推理等方面性能提升，接近Opus 4.8且价格低。安全评估有改善，但网络安全逊于Opus 4.8。已正式可用，有优惠首发价。
又上Trending，这个项目赋予AI灵性，可以和你一起玩游戏看电视！
项目 AIRI 可让用户轻松拥有数字生命。与其他项目不同，它支持多种 Web 技术，能在现代浏览器和设备运行，还能玩游戏、看视频。目前已完成部分基础功能，支持众多 LLM API 服务，还衍生出多个子项目。
Unsloth让大模型跑在手机上！
Unsloth放出教程，可将其微调模型部署到Pixel 8和iPhone 15 Pro。用ExecuTorch技术优化，Qwen2 - 0.5B在旗舰机上表现流畅。教程介绍量化感知训练控制精度损失，还给出iOS和Android部署步骤及注意事项。