搜索：高效推理框架

「高效推理框架」共找到 3719 篇相关文章

港科大（广州）联合腾讯AI平台部开源VibeWorlding，3D世界构建迎来Vibe Coding时刻？

香港科技大学（广州）联合腾讯AI平台部提出VibeWorlding，是可通过多轮对话等自主构建和编辑交互式3D世界的多模态智能体框架。团队开源多项数据，其模型经强化学习后表现超GPT - 5.5等。

昆仑万维旗下天工AI发布SkyClaw - v1.0智能体模型及轻量化版SkyClaw - v1.0 - lite。该模型在底层能力提升，适配主流框架，跑分和实际应用表现出色，还具有低门槛、高性价比优势，限时免费体验。

小米推出MiMo - Audio大模型，预训练数据超1亿小时。它在多个基准测试成开源7B模型SOTA，开放相关资源。分词器表现佳，有全新架构，在音频理解、对话、推理等方面表现出色，还集成TTS功能。

大语言模型在应用中会出现危险行为偏移与训练引发的非预期偏移，传统方法难监控干预。本文发现人格特质在线性方向表现为“角色向量”，实现提前预测、实时监控和主动控制，为AI安全提供数学框架。

京东深夜开源业界首个“开箱即用”完整多智能体产品`JoyAgent-JDGenie`。与大多为SDK或框架的开源项目不同，它是端到端完整产品。在GAIA榜单表现佳，架构清晰且有技术创新，使用和二次开发简单。

Anthropic论文登上Nature，揭示AI模型仅通过纯数字序列就能继承另一模型的危险偏好。研究表明，即使删掉敏感词，隐性信号仍能传递，且代码和推理链也是传染通道，这对AI安全评估提出新挑战。

上海创智学院和上海交通大学研究团队深入探讨不同基础语言模型在强化学习训练中的差异，提出中期训练策略，将 Llama 改造成适配 RL 的推理基础模型，缩小与 Qwen 性能差距，还发布了 MegaMath-Web-Pro-Max 数据集。

近期大模型长上下文需求增长，成本问题凸显。Google Gemma 4、Poolside Laguna XS.2、Zyphra ZAYA1 - 8B、DeepSeek V4 等模型各有架构优化，如 Gemma 4 跨层 KV 共享和 PLE，以降低长上下文推理成本。

随着高分辨率图像与长视频处理需求增长，大型视觉语言模型推理效率成瓶颈。V²Drop从视觉Token内在变化量出发，采用多阶段渐进式剪枝策略，实现无损加速，在图像和视频理解场景表现卓越。

对于Mac用户，在原型实验阶段反复租云端GPU是资源浪费。开发者推出Unsloth - MLX，基于MLX框架，让Mac用户本地高效微调大模型，改一行导入语句就能无缝迁移代码到云端，还介绍项目特点、状态等。