「AI推理成本」共找到 11457 篇相关文章
DeepSeek倒逼vLLM升级！芯片内卷、MoE横扫千模，vLLM核心维护者独家回应：如何凭PyTorch坐稳推理“铁王座”
本文介绍了vLLM的发展，自开源后成科技公司首选推理引擎。因DeepSeek发布，团队转向其模型特性优化；还参与各芯片支持工作。vLLM靠PyTorch支持多硬件，同时拓展到多模态推理，面临竞争仍保持优势。
把屁声发给ChatGPT，它说这是艺术
有人将屁声音效发给ChatGPT，问其音乐如何，ChatGPT一通夸赞。类似AI谄媚问题不少，还存在‘幻景推理’现象，顶尖模型无图像也能描述细节，使用AI得留个心眼。
「斯坦福AI小镇」创业即获投1亿美元！李飞飞卡帕西都投了
2023年斯坦福团队构建AI小镇Smallville，其智能体可自主生活。如今团队创业成立Simile，获1亿美元融资，李飞飞、卡帕西跟投。它将升级架构构建大规模模拟平台，用于人类决策的风险预测。
首个开源「智能视频剪辑系统」，11个工作流覆盖所有视频制作场景，成本巨低！
今天分享开源智能视频制作系统OpenMontage，号称首个。它有11条完整生产流水线，覆盖几乎所有视频类型；有49个生产工具、400+个Agent技能。其成本低，功能丰富。
大模型年中报告：Anthropic 市场份额超 OpenAI，开源模型企业采用率下降
本文基于年中报告指出，当前模型API支出翻倍，企业重心转向模型推理。Anthropic市场份额超OpenAI，开源模型企业采用率下降。代码生成成热门场景，企业换模型重性能，AI支出从训练转推理。
离职程序员深夜忏悔用“绝望指数”算法害人：Uber Eats剥削外卖员让缺钱者狂接垃圾订单！如今竟被爆帖子是AI编的？网友：别再让AI背锅了
Reddit一用户自称Uber Eats离职工程师，爆料平台用“绝望指数”算法剥削外卖员，帖子传播极广。但记者核实发现是编造，“证据”或由AI生成，网友对此调查结论看法不一。
刚刚，DeepSeek首曝V3降成本秘诀！软硬协同突破Scaling天花板
DeepSeek最新论文从硬件架构和模型设计双重视角，探讨如何相互配合实现低成本大规模训练和推理，分析硬件特性对架构选择的影响，研究两者相互依赖关系，还为未来协同设计提出建议。
被骂疯了！微软CEO刚甩出年终反思：“今年别说AI垃圾了”，“模型滞后”新定义遭痛批，网友：你是真脱离现实
微软CEO Satya Nadella发布年终反思博文，定位2026年为‘AI关键之年’，提出‘模型滞后’，划定三件关键事，却遭网友痛批。同时微软推进AI融入Windows，引发对其动机和市场前景的质疑。
AI数学能力暴涨100%，自进化直逼RL极限！CMU新作颠覆认知
数据枯竭成AI发展瓶颈，CMU团队提出SRT方法，让LLM自我进化，提升数学与推理能力，性能逼近传统强化学习。研究还分析其局限，提出缓解奖励作弊策略及应对模型崩溃的方法。
研究者警告：强化学习暗藏「策略悬崖」危机，AI对齐的根本性挑战浮现
强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。