「有状态推理」共找到 7617 篇相关文章
长文本生成迎来新突破：拓元智慧推出 DrDiff ，实现效率与质量双提升
拓元智慧联合多团队开发出 DrDiff 框架，解决长文本生成中效率与质量难兼顾问题。其核心是“动态化”，有分层稀疏注意力、动态专家调度、语义锚点状态三个创新组件，经测试表现良好，未来应用值得期待。
国产LLM大爆发的一周，Hugging Face热榜被承包了！
这一周国产开源LLM集中爆发，GLM - 4.5、Qwen3的5连发、Step3等接连发布。GLM - 4.5是新一代开源SOTA模型；Qwen3各版本在不同能力上提升显著；Step3是多模态推理模型；腾讯还发布了混元3D世界模型1.0。
昇腾910B大模型实测：开源框架能不能打？真相全放这了
文章对昇腾 910B 大模型进行实测，对比 vLLM Ascend 与 MindIE 在实际推理场景中的性能差异。通过 GPUStack 平台测试多种模型，结果显示两者在不同部署场景各有优势，vLLM 适合单卡小模型，MindIE 适合大模型多卡部署。
「注意力经济」下，AI 生活助手能否解锁生服「新」刚需？
今年不少国内大厂加码AI生活助手赛道。腾讯、阿里、美团、京东、滴滴等各有动作，如腾讯在微信上线「元宝」，阿里在电商业务开发助手。当前AI应用使用时长和留存率不佳，而助手或能过滤信息、缩短决策链路。
神秘霸榜模型现真身：小米MiMo-V2 Pro，国内首个万亿参数+1M上下文，为Agent而生！
小米全新一代面向 Agent 的大模型家族官宣，包括 MiMo-V2-Pro Preview、MiMo-V2-Omni 和 MiMo-V2-TTS。MiMo-V2-Pro 性能优异，在多场景实测表现出色，技术有创新，API 开放且定价低，已融入小米多业务与生态。
视觉+语言+动作！超强具身“训练宝典” EmbRACE-3K
视觉 - 语言模型在具身环境中表现有局限，港大推出 EmbRACE - 3K 数据集应对。它含 3000 多个任务、2.6 万个决策步骤，有细致多模态注释。团队用其微调 Qwen2.5 - VL - 7B 模型，还建立新基准评估多个模型。
OpenAI 广告续命遭全网骂，用户要跑路Gemini！需烧 400 亿，18个月破产预警
OpenAI计划在ChatGPT对话界面向美区免费版和低价订阅用户测试广告投放，旨在拓展营收缓解成本压力。此举动引发批评，用户转向Gemini。OpenAI虽营收增长，但算力投入大，首席财务官称加广告会坚守三大原则。不过，有预测称其18个月内或破产。
昆仑万维开源的SkyReels-V3，把马斯克请来带货了
1月29日，Skywork AI团队宣布开源SkyReels - V3多模态视频生成模型系列，涵盖三大核心能力，达业界领先。经测试表现出色，其技术有创新，且模块化设计适配性强。昆仑万维此前在视频生成领域迭代快，此次开源或加剧竞争。
LangChain 彻底重写：从开源副业到独角兽，一次“核心迁移”干到 12.5 亿估值
本周，LangChain 宣布完成 1.25 亿美元融资，投后估值 12.5 亿美元，还发布了里程碑式更新 LangChain 1.0，这是一次从零开始的重写。LangChain 最初是副业，发展成热门开源项目，此次重写解决了此前问题，有诸多升级。
6.1B打平40B Dense模型，蚂蚁开源最新MoE模型Ling-flash-2.0
蚂蚁百灵大模型团队开源 MoE 大模型 Ling-flash-2.0，其以轻量级配置展现卓越性能，在推理速度、任务性能、部署成本间找到新平衡，为大模型‘参数膨胀’提供新路径，还在多领域应用表现出色。