「在离线混部」共找到 8227 篇相关文章
腾讯AngelSlim升级，首个集LLM、VLM及语音多模态为一体的投机采样训练框架，推理速度飙升1.8倍
随着大模型应用成本与延迟问题凸显，腾讯混元升级 AngelSlim 训练框架，将投机采样技术拓展至全模态场景。它以 Eagle3 架构让推理速度最高飙升 1.9 倍，还具全模态训练、面向部署等亮点，有开源代码。
没想到 2025 年 AI 领域爆发最猛烈的居然是它
文章指出2025年AI编程领域爆发式增长，一年营收从几亿到百亿美金。因其适合编程场景，能帮助各用户群体，未来渗透率有望大幅提升。还分析了发展猛的原因，且认为其潜力大，赛道仍在加速。
MiniMax开源首个视觉RL统一框架，闫俊杰领衔！推理感知两手抓，性能横扫MEGA-Bench
MiniMax开源首个视觉RL统一框架V-Triune，由闫俊杰领衔。该框架通过三层组件设计和动态IoU奖励机制，让VLM能联合学习推理和感知任务。还开发Orsta模型系列，在MEGA - Bench表现出色，且MiniMax多模态布局动作多。
不用人类手写训练框架了！AI自己写代码，训出1B端侧「小钢炮」
5月25日，面壁开源端侧文本基座大模型MiniCPM5 - 1B，主打低成本部署等。它由AI编写的ForgeTrain框架参与预训练，效果与英伟达Megatron对齐且速度快10%。该模型在榜单表现优，应用边界广，部署门槛低。
5轴联动直插大脑！马斯克大招：90亿美元估值，20余人已植入
Neuralink手术机器人进化到第二代，5轴联动可直插大脑深处，8个摄像头与OCT系统助其避开血管。已在20名真人大脑手术，提速11倍。目标打造通用神经接口，虽硬件先进，但对大脑理解不足成瓶颈。
Karpathy：很多App就不该出生、人类唯一护城河只剩理解、CPU将沦为配角
在Sequoia Ascent峰会上，AI先驱Andrej Karpathy分享对2026年技术浪潮思考。他认为LLM是新物种，让部分旧软件多余，未来软件接口或为说明文本，还谈及模型能力不均匀性、创业机会、智能体经济及人类价值。
多模态长文本理解测评首发：46款模型无一攻克128K难关
香港科大等研究者联合提出MMLongBench，用于评估多模态模型长文本理解能力。它覆盖5大类型任务的16个数据集，对46个模型测试显示，闭源和开源模型在长上下文任务均面临挑战，OCR和跨模态检索能力是瓶颈。
只要9美元！LoRA+强化学习，DeepSeek 1.5B推理性能暴涨20%
南加州大学团队基于LoRA的强化学习训练1.5B推理模型，在AIME 24测试上性能提升超20%，成本仅9美元。开源Tina模型结合三大关键技术，与SOTA模型相比竞争力强，研究者还对其有效性提出假设。
AI 真的能帮你微信下单了！
微信支付发布「AI 专属卡」，WorkBuddy 率先接入。用户在 WorkBuddy 能让 AI 找外卖、选套餐、领券、下单及支付。介绍了使用步骤，还说明 AI 专属卡支付安全，绑定还有彩蛋。
字节会师何恺明！开源连续扩散语言模型Cola DLM
字节会师何恺明，开源连续扩散语言模型Cola DLM，释出论文、代码等。该模型跳出离散token束缚，把生成过程交给连续空间，在实验中展现出稳定scaling趋势，其动机是表征而非diffusion。