「推理系统优化」共找到 4331 篇相关文章
2025.7.4上午 | 视觉智能驱动的多模态对齐与推理的近期系列工作分享 - 复旦博士生王思尹
本次分享由复旦博士生王思尹围绕‘视觉智能驱动的多模态对齐与推理’展开，介绍多模态大模型探索研究，涉及跨模态组合语义理解、视觉参与推理及基于视觉建模世界完成行动等内容。
30.9K Star牛啊！！再见了PD，不越狱也能装，支持几十种系统，苹果全设备通用！
在苹果生态运行其他系统，Parallels Desktop 收费且移动设备难装。开源工具 UTM 免费，基于 QEMU 构建，支持多架构和系统，操作界面简洁，外围设备支持强，苹果全设备通用。
RAG系统设计：揭秘语义搜索被低估的核心价值与KG驱动的架构选型策略
在AICon大会上，Hugging Face的尹一峰探讨基于语义搜索的RAG系统重要性，揭示其被低估原因，分析本质与作用，分享设计高效架构方法，还讨论KG驱动的RAG系统及范式选择。
独家 | CMU博士、UCSD助理教授黄碧薇创立「原识之智」，聚焦因果推理方向
AI科技评论独家获悉，CMU博士、UCSD助理教授黄碧薇创立上海原识之智科技有限公司，切入具身智能基础层相关的因果推理方向。当下大语言模型在符号世界表现出色，而机器人缺乏因果推理能力，原识之智项目已获顺为资本早期投资。
豆包背后的“超算大脑”：字节ByteRobust系统跑20多万张GPU，性能刷新SOTA
字节跳动自研的ByteRobust系统登上SOSP 2025，部署于超20万张GPU平台，9600张GPU训练三个月ETTR达97%。该系统应对LLM训练故障，由控制和数据平面构成，能自动发现修复故障，提升训练效率与稳定性。
小红书发布FireRedChat：首个可私有化部署的全双工大模型语音交互系统
小红书智创音频团队推出业内首个支持私有化部署的全双工大模型语音交互系统FireRedChat，可将半双工链路升级为全双工，提供级联与半级联服务，在多指标领先，让AI有“人感”。
为MoE解绑：全新「专家即服务」推理架构发布，超细粒度扩展锐减37.5%成本
近年来大模型推理开销增长，MoE架构虽能避免计算量同比增，但带来扩展性差、容错性低、负载不均等问题。为此作者提出全新「专家即服务」推理架构EaaS，实验显示它能锐减37.5%成本。
腾讯混元推出首款开源混合推理模型：擅长Agent工具调用和长文理解
6月27日，腾讯混元开源首个混合推理MoE模型Hunyuan - A13B，参数80B激活仅13B，推理快性价比高。它在多测试集成绩好，尤其擅长Agent工具调用和长文理解，还开源两数据集填补评估空白。
斩获6.6K star!!再见了U盘、PE盘，一键重装Windows/Linux，几十种系统随便换，真绝了！
介绍GitHub开源重装神器`reinstall`，它能跨系统无门槛重装，支持多系统，自动处理网络驱动，适配性强。安装使用简单，从用户痛点出发，是综合性VPS管理工具。
阿里 Qwen 又双叒发模型，继基础、编程模型后，最强推理模型 Qwen3 Thinking 登场，击败Gemini 、R1？
阿里通义千问发布最强推理模型 Qwen3-235B-A22B-Thinking-2507，逻辑、通用技能等能力更强，原生支持 256K 上下文。此前已发布基础和编程模型，Qwen API 在 OpenRouter 表现佳，受社区关注。