「AI推理芯片」共找到 11099 篇相关文章
忘记大模型，英伟达：小模型才是Agentic AI的未来！
截至2024年末，Agentic AI领域获超20亿美元初创公司融资。NVIDIA研究报告显示，多数Agentic AI场景中，小型语言模型已足够强、更适配、更便宜，LLM-to-SLM迁移是必然趋势。
预算有限、技术空白：最刁钻的AI用户，是中小企业老板
2026年大模型在中小企业办公环境中应用不佳，工具与场景脱节。华为云推出专为中小企业的Flexus AI智能体平台，它依托自研模型，在多场景准确率领先，已在多行业验证效果，还能辅助内容创作。
性能提升11.74%！腾讯优图提出激励推理，专攻复杂指令
现有大语言模型处理复杂指令能力不足，腾讯优图研究团队提出激励推理方法。该方法能提升LLM处理复杂指令表现，在1.5B参数LLM上性能提升11.74%，媲美8B参数模型。
JoyInside 创新大赛现场，我看到 AI 硬件长出了灵魂
作者曾对多数AI硬件失望，认为其有硬件没灵魂。但在观猹和京东联合举办的JoyInside创新大赛上，20强产品让其改观。大赛基于京东JoyAI大模型，缩短产品上市周期，前三名产品各有亮点，还呈现场景垂直化和交互方式改变趋势。
AI里最大的Bug，却也是人类文明最伟大的起点。
OpenAI论文指出AI产生幻觉是因其训练方式奖励瞎蒙行为。以考试为例，AI在信息不足时猜测是最优策略。还从统计学解释根源，指出解决幻觉需改变评估指标，也引发对人类想象力起源的思考。
图解Vllm V1系列7：使用AsyncLLM做异步推理
文章因异步RL讨论热，探讨用vllm做最小程度异步二次开发。介绍如何用AsyncLLM做异步推理，分析单条请求处理流程及阶段，说明并发提升效率的方法，还提及多请求并发及构建异步推理引擎思路。
二创党福音！基于AI的开源智能视频切片处理系统
AutoClip是基于AI的开源智能视频切片处理系统，能自动从多平台下载视频、提取精彩片段并生成合集。适合UP主、内容创作者等，有多平台支持、AI智能分析等特性，部署方式简单。
Karpathy投了一家AI记忆公司，撞名DeepSeek Engram记忆架构
新公司Engram完成9800万美元融资，投资人有Andrej Karpathy等。它想为AI构建能持续学习的“记忆层”，解决模型吸收组织内部知识问题，首个产品是面向Agent的API，已与多家合作。
五源袁野：理解AI创业的五个视角 ｜5Y View
文章是五源合伙人袁野在五源2025创始人年会演讲，从五视角审视AI时代创业变化，如技术范式切换、供给边界演进等，为理解AI创业带来启发，强调创新要敢于走新路。
AI生的图能分图层，Agent控制能力进入下半场
Lovart上线Layered Image Editing功能，可自动识别图片里的文字、主体、背景并拆成独立图层，每个图层能单独编辑。其还有快速模式，模型库更新快，能降低AI生图门槛。