「分布式推理」共找到 2103 篇相关文章
我用AI做了个付费榜第一的App，现在人民日报管这叫「手搓经济」
人民日报提出「手搓经济」，指个人开发者用AI做出的应用受青睐。作者作为亲历者，认为报道判断准，但应注意手搓动机是创造、参与者不止年轻人，且产品从1到100仍需投入。
BigQuery 新功能：SQL 直调 17 万 + AI 模型，3800 万行数据处理成本仅 2 美元
Google为BigQuery推出面向开源模型的第三方生成式AI推理功能，允许数据团队用SQL语句部署运行Hugging Face或Vertex AI Model Garden的模型，消除对独立ML基础设施的需求，解决数据团队痛点。
0.005%参数量超越SOTA！提升模型能力无需庞大奖励模型
上海交通大学等校联合团队提出轻量级奖励模型SWIFT，利用大模型隐藏状态线性特征，仅训练极小线性层，在推理任务中超越主流奖励模型，实现计算效率与准确率双提升，且在多领域表现出色。
微软打包收购OpenAI？就差一点！
OpenAI奥特曼被董事会罢免时，微软差点雇佣式收购，资金、文书一天到位。微软曾对OpenAI商业化存疑，而奥特曼不想被其完全掌控，签亚马逊大单。此外，马斯克索赔，OpenAI要防御多方围猎。
解锁任意步数文生图，港大&Adobe全新Self-E框架学会自我评估
香港大学与Adobe Research联合发布Self - E框架，可从零训练实现任意步数文生图。它改变训练范式，用两条互补训练信号，在GenEval基准表现出色，让文生图训练更灵活且具扩展性。
中美算力，站在2000亿美元的分岔路口
高盛报告称2025年全球人工智能投资规模或接近2000亿美元。中美算力发展站在分岔路，中国追性能，美国被能源限制。全球算力市场有新变化，中国本土芯片崛起，各方也在热议AI是否有泡沫。
天下苦SaaS已久，企业级AI得靠「结果」说话
SaaS在AI时代问题凸显，推理成本高、交付质量不稳定。在此背景下，百融云创推出结果云Results Cloud，以RaaS模式提供全栈解决方案，解决AI落地难题，还呼吁共建智能体生态。
Nature重磅！清华团队揭秘大模型新规律：告别参数内卷，智能密度每3.5个月翻一番
清华和面壁智能团队研究揭示大语言模型进化的致密律，指出为获同等智能，模型参数量呈指数级下降，最大能力密度约每3.5个月翻一番，还探讨模型压缩、边缘智能等内容。
真正能离线跑的完全开源翻译工具
Argos Translate是用Python写的开源离线翻译引擎，底层靠OpenNMT，推理用CTranslate2。可当库、命令行、桌面软件用，模型是本地zip包，不联网也能用。支持主流及小众语言，有多种使用方式。
6款小游戏难倒所有顶级VLM！愤怒的小鸟让它们全军覆没，性能不如随机猜测
淘天集团未来生活实验室提出首个系统性评估多模态大模型（VLM）交互式物理推理能力的综合基准DeepPHY。它集成六个物理环境，对17个主流VLM测试，揭示其在物理交互等方面短板。