「轻量化推理」共找到 2331 篇相关文章
MemOS：一种用于 AI 应用的记忆操作系统
大型语言模型缺乏记忆管理系统，限制其发展。MemTensor与高校联合开源MemOS，它将记忆视为可管理资源，有三层架构，系统化三种记忆类型。评估显示其在推理、检索、加速等方面表现优异。
机器人GPT时刻！英伟达WAM赋予全机器人零样本操作能力
英伟达发布世界动作模型 DreamZero，通过耦合视频生成与动作预测，让机器人有物理直觉，能在陌生环境完成复杂任务。它用异构数据学习，适配不同机体，还经优化实现高速推理。
港科联合港中文提出AdaCtrl，自适应可控Reasoning，可降10~90%
港科联合港中文提出AdaCtrl，解决LLM推理的过度思考、算力浪费和响应延迟问题。它有自适应和用户控制两种模式，通过两阶段训练法实现目标，实验效果好，未来或拓展到多领域。
我在OpenAI修中文
OpenAI研究科学家陈博远介绍GPT Image 2官网博客花絮，分享模型训练、测试情况，还展示亲手制作的官网图片，包括中文彩蛋、漫画、杂志页等，体现模型文字渲染、视觉推理等能力。
LeCun离职后不止创一份业！押注与大模型不同的路线，加入硅谷初创董事会
离开Meta后，Yann LeCun创立AMI，还加入Logical Intelligence任技术研究委员会主席。该公司推能量 - 推理模型，与主流大模型路线不同，其Kona模型在数独测试上表现远超大模型。
旧手机除了放转转，还能放数据中心提供算力
Google和UC San Diego合作，将退役Pixel手机拆解成主板组成计算集群，跑教学科研任务。研究表明，旧手机算力仍有价值，可用于轻量任务，还能降低隐含碳，或催生新产业链。
Anthropic 新研究：AI出错是“热混乱”
Anthropic研究团队发现AI可能无一致目标，只是瞎搞。他们将AI错误分类，测试发现推理越久越混乱，大模型复杂任务易失控。此发现改变对AI风险的认知，论文已在arXiv发布。
0.01%参数定生死！苹果揭秘LLM「超级权重」，删掉就会胡说八道
苹果研究人员发现大模型中极少量的「超级权重」，即便占比仅0.01%，对模型能力影响巨大。这一发现为大模型「科学瘦身」提供思路，还提出定位方法，助力模型量化和未来研究。
刚刚，字节开源Seed-OSS-36B模型，512k上下文
深夜，字节跳动Seed团队开源Seed-OSS系列模型，含三个版本。其用12万亿tokens训练，在多基准测试表现出色。有灵活推理预算控制等特性，原生支持512K上下文窗口，基准测试成绩佳。
刚刚，DeepSeek全新多模态技术开源！
DeepSeek联合北大、清华开源多模态技术及论文，提出“视觉基元推理”框架，解决MLLM指代鸿沟问题。基于DeepSeek - V4 - Flash构建的模型，性能比肩GPT - 5.4等。论文还介绍架构、训练流程等。