「分布式推理系统」共找到 3622 篇相关文章
以AI革新研发:从数字协同到智能工艺的全链路升级
文章介绍“数字化大研发体系”,Geega捷做设计研发协同平台从三维度重塑研发管理,解决五大问题;Geega工艺专家数智引擎系统让工艺环节智能化跃升,该体系能带来立体价值,提升企业效率。
真正能离线跑的完全开源翻译工具
Argos Translate是用Python写的开源离线翻译引擎,底层靠OpenNMT,推理用CTranslate2。可当库、命令行、桌面软件用,模型是本地zip包,不联网也能用。支持主流及小众语言,有多种使用方式。
即时编程与设计,软件按需生成:Google生成式UI将重塑人机交互体验
Google Research团队发布生成式UI研究,打破Markdown文字墙模式,能将用户需求实时转化为完整应用程序。系统通过多组件协作,构建不同风格界面,在多领域有应用案例,虽有挑战但前景好。
6款小游戏难倒所有顶级VLM!愤怒的小鸟让它们全军覆没,性能不如随机猜测
淘天集团未来生活实验室提出首个系统性评估多模态大模型(VLM)交互式物理推理能力的综合基准DeepPHY。它集成六个物理环境,对17个主流VLM测试,揭示其在物理交互等方面短板。
与DeepSeek-OCR不谋而合,NeurIPS论文提出让LLM像人一样读长文本
NeurIPS 2025 论文提出 VIST 框架,为大语言模型长文本推理提供视觉方案,与 DeepSeek - OCR 理念不谋而合。它模仿人类阅读,有快 - 慢路径协作,在多任务表现优,还让模型‘用眼看文字’,优势明显。
3A大作!阿里ROLL团队从基建->算法->机理,推动RL4LLM全栈协同优化
阿里巴巴ROLL团队联合高校推出「3A」协同优化框架,推动「强化学习用于大语言模型(RL4LLM)」迈向新范式。Async架构提升GPU利用率,AsyPPO降低计算资源消耗,Attention机制提升训练效率与可解释性。
李飞飞之后,何恺明弟子再拿AI大奖!清华校友等28位Fellow上榜
「AI2050」奖学金入选名单公布,目标是确保AI普惠、向善,获奖总额超1800万美元。28位学者聚焦三大方向获资助,包括构建AI科学家系统等。7位高级Fellow和21位早期职业Fellow各有研究项目。
BigBang-Proton: 自回归基座模型统一语言、科学和物质世界
超对称公司发布新版基座模型 BigBang - Proton,实现多学科问题与 LLM 统一预训练和推理,挑战主流 AGI 技术路线。它有三项创新,在多专业学科任务表现出色,还提出宇宙尺度压缩构想。
别再只关注KV Cache了! LLM稀疏性新洞察:为何模型越深越稀疏?UNCOMP从矩阵熵给出答案
团队论文UNCOMP获EMNLP 2025主会接收,它提出高效推理框架,从截断矩阵熵视角解释LLM深层稀疏现象。还能识别关键结构、找到最优压缩策略,设计的UNCOMP框架优化KV Cache,实验效果佳。
Google内部文档深度解析与AI模式用户行为研究
文章基于Google 2024年泄漏内容数据仓库逆向分析,解构其排名流程,解析核心指标与E - E - A - T,还介绍AI模式用户行为研究,为SEO提供启发与检查清单。