「推理系统优化」共找到 4400 篇相关文章
Chiplet（芯粒） —— 后摩尔时代的芯片“乐高”玩法
当单芯片逼近物理极限，Chiplet技术应运而生，它将大芯片拆分成小芯片，通过先进封装技术整合。该技术成本低、良率高，应用场景多元，但面临热管理、测试和标准统一等挑战，未来发展前景广阔。
天下苦SaaS已久，企业级AI得靠「结果」说话
SaaS在AI时代问题凸显，推理成本高、交付质量不稳定。在此背景下，百融云创推出结果云Results Cloud，以RaaS模式提供全栈解决方案，解决AI落地难题，还呼吁共建智能体生态。
打破确定性魔咒！北航团队提出VBF++：用“不确定性建模”刷新多模态视频推荐 SOTA
北京航空航天大学和北京邮电大学联合提出VBF++框架，将多模态融合从“点估计”升级为“分布建模”。它由上下文感知先验、推荐引导的对抗优化和元学习三大组件构成，在多个数据集上刷新SOTA。
Nature重磅！清华团队揭秘大模型新规律：告别参数内卷，智能密度每3.5个月翻一番
清华和面壁智能团队研究揭示大语言模型进化的致密律，指出为获同等智能，模型参数量呈指数级下降，最大能力密度约每3.5个月翻一番，还探讨模型压缩、边缘智能等内容。
以AI革新研发：从数字协同到智能工艺的全链路升级
文章介绍“数字化大研发体系”，Geega捷做设计研发协同平台从三维度重塑研发管理，解决五大问题；Geega工艺专家数智引擎系统让工艺环节智能化跃升，该体系能带来立体价值，提升企业效率。
真正能离线跑的完全开源翻译工具
Argos Translate是用Python写的开源离线翻译引擎，底层靠OpenNMT，推理用CTranslate2。可当库、命令行、桌面软件用，模型是本地zip包，不联网也能用。支持主流及小众语言，有多种使用方式。
DeepSeek-V3.2巨「吃」Token，竟然是被GRPO背刺了
DeepSeek-V3.2发布后引起关注，但长思考版本暴露出Token使用效率不佳问题，消耗远超同类模型。这或与GRPO算法缺陷有关，其目标函数存在长度和难度偏置，长度偏置仍是该版本高Token消耗的原因。
即时编程与设计，软件按需生成：Google生成式UI将重塑人机交互体验
Google Research团队发布生成式UI研究，打破Markdown文字墙模式，能将用户需求实时转化为完整应用程序。系统通过多组件协作，构建不同风格界面，在多领域有应用案例，虽有挑战但前景好。
Karpathy：LLM渴望的不是生存，而是你的点赞
Andrej Karpathy指出人们对‘智能’理解肤浅，动物智能与LLM智能源于不同优化压力。动物智能源于自然选择，而LLM智能来自统计模拟、强化学习微调等，两者在多层面有差异，LLM受商业进化影响大。
这些大神在Meta的论文看一篇少一篇了
田渊栋团队剖析可验证奖励强化学习（RLVR）训练动态，戳破参数更新稀疏误区，提出三门理论说明其参数更新定位机制，还为RL训练算法设计提供指导，指出SFT时代参数高效微调方法在RLVR中迁移效果差。