「分布式推理系统」共找到 3603 篇相关文章
刚刚，GPT-5.4 发布，百万上下文、最强全能模型
OpenAI发布GPT - 5.4，集推理、编程等能力于一体，支持百万级上下文窗口。有三个版本，功能全面升级，如支持中途打断、电脑操作、视觉能力提升等，还更省token、少幻觉，安全机制完善，价格有调整。
Mini-sglang-01：从Client到Scheduler的消息流转之旅
文章围绕轻量化大模型推理系统mini - sglang，详细介绍消息从客户端经APIServer、Tokenizer到Scheduler的流转过程，分析核心组件功能、消息体系、正反向链路及优化策略，还预告后续分析调度和模型实现逻辑。
告别盲目卷参数！科大讯飞1024亮出底牌：all in“更懂你”
在模型能力趋同当下，科大讯飞在1024开发者节提出让AI“更懂你”。展示多模态超拟人“小飞老师”和「百变声音复刻」功能，发布星火X1.5大模型，还推出多领域软硬件产品，赋能多行业。
一篇大模型Agentic框架到应用最新综述
这是首篇系统拆解“大模型Agentic推理框架”的综述，不聊训练，只聚焦如何把LLM组织成会思考、协作、调工具的Agent，横跨科学发现、医疗、软件工程、社会经济模拟四大战场，给出统一语言、视角和评测。
刚刚！Ilya首个模型曝光了
前OpenAI首席科学家Ilya离开两年后，X网友爆料其创办的SSI正探索基于TTT的小型推理引擎，当前版本或8月向少数用户开放。该爆料与Ilya观点及英伟达合作等线索相符，但也面临安全难题。
李飞飞50亿美金赛道被开源！浙大教授章国锋带队创业，打造无限时长实时3D世界模型
2024年李飞飞创立的World Labs入局空间智能赛道，估值达50亿美元。近日影溯发布并开源实时帧生成模型InSpatio - WorldFM，由章国锋领衔，该模型突破2D局限，效率高、能无限时长推理，展现出高工程可用性。
硅基流动完成新一轮数亿元融资，打造开发者首选生成式 AI 开发平台
硅基流动完成数亿元 A 轮融资，由阿里云领投。创始人袁进辉称业务因开源大模型崛起和算力需求激增爆发式增长。公司推出高性能推理引擎等，产品服务多个行业，未来将深耕创新、推动 AI 应用。
对标GPT-4o和香蕉！浙大开源ContextGen：布局身份协同新SOTA
浙江大学ReLER团队开源ContextGen框架，攻克多实例图像生成中布局与身份协同控制难题。基于Diffusion Transformer架构，用双重注意力机制实现布局精准锚定与身份高保真隔离，在基准测试中超越开源SOTA模型，对标GPT - 4o等闭源系统。
阿里的未来，是通往超级人工智能
云栖大会上，阿里巴巴 CEO 吴泳铭演讲传达阿里对 AI 发展判断与战略规划。他认为 AGI 非终点，ASI 是目标，并提出实现三阶段。还指出阿里抓住大模型和 AI Cloud 支点，要把通义千问打造成 AI 时代 Android 系统。
Qwen3.8-27B 登顶全球开源榜第一，曾经的「源神」又回来了！
8月17日，阿里发布的Qwen3.8 - 27B成Hugging Face热门第一。它以27B参数在部分测试中与前沿闭源模型比肩，可本地运行。不过推理慢、真实任务表现待提升，它让前沿Agent能力下放到个人电脑。