「AI推理加速」共找到 11202 篇相关文章

产品应用7

我是如何破解 NotebookLM 系统提示词的?

作者分享通过“逆向推理”破解NotebookLM系统提示词的故事,介绍系统提示词概念、破解原因、策略及从播客音频逆推提示词的方法,还提到该方法的效果及局限性 。

宝玉AI
新闻资讯7

当 Agent 开始接管工作流,企业最在意的三件事:安全运行、稳定交付、持续进化

Agentic AI 开发落地使基础设施问题凸显。AI 产业转向重视模型部署等,CPU 受关注,云计算角色转变,容器重要性凸显。Agent 应用规模化落地,AI 负载变化,Agent Infra 要解决四个问题,云和 CPU 任务也在改变。

InfoQ
新闻资讯8

黄仁勋 GTC 2026 演讲实录:所有SaaS公司都将消失;Token成本全球最低;“龙虾”创造了历史;Feynman 架构已在路上

北京时间2026年3月17日,英伟达CEO黄仁勋在GTC演讲,展示AI“全家桶”。他回溯CUDA 20年,介绍数据处理新软件库,还提及AI原生企业爆发、Token成本优势、Vera Rubin平台等,强调英伟达在AI领域的全面布局。

AI前线
产品应用8

Seedance 2.0,凭什么刷屏?

2026年2月7日,字节跳动旗下AI视频生成大模型Seedance 2.0开启内测后刷屏。它解决AI视频可用率低、成本高的痛点,引发资本市场关注,虽面临挑战,但也让AI视频成可用生产力工具。

芯师爷
算法论文7

CoT 之后,CoF 如何让帧间逻辑从「隐式对齐」变成「显式思考」?

CoT 虽提升语言模型推理能力,但在 C 端场景有局限,且被质疑并非真实推理。视觉领域提出 CoF 概念,Google DeepMind 团队引入理论,让视频模型通过帧链推理提升帧间一致性,还具强大泛化能力。

机器之心
产品应用7

对话关梦龙:他想用 Agent 拯救你手机里的 100G 废片

前字节跳动剪映早期成员关梦龙,正开发AI编导产品“Cutto”,让AI参与内容生成,降低普通人创作门槛。他认为AI虽提升生产力,但创业竞争更激烈,产品成功需看用户能否持续使用。

AI科技评论
算法论文8

超越免训练剪枝:LightVLA引入可微分token剪枝,首次实现VLA模型性能和效率的双重突破

文章介绍LightVLA框架,它是用于提升VLA推理效率和性能的视觉token剪枝框架。针对VLA模型计算开销大、推理延迟高问题,提出两大创新,在LIBERO实验中性能超经典模型,还实现推理加速。

机器之心
新闻资讯7

The Batch: 890 | 开源终将胜利

IBM研究院AI模型副总裁David Cox认为开源AI应持续繁荣并最终胜利,开源生态是创新发动机。如今部分‘开源模型’未真正开放,真正开源AI潜力巨大,开发好处多,还能解决地缘政治相关问题。

DeeplearningAI
新闻资讯8

巨头垄断AGI,比天网更恐怖百倍!《终结者》导演卡梅隆炸裂警告

《终结者》导演詹姆斯·卡梅隆在「SCSP AI+Robotics Summit」上称,看好AI但对AGI保留态度。他警告科技巨头垄断AGI比《终结者》中「天网」更可怕,还探讨了AI与国家安全、「对齐」难题等问题。

新智元
产品应用7

比Vibe Coding强100倍!字节 Trae 2.0 携“上下文工程”登场:一句话,从需求干到上线!

字节跳动的AI编程助手Trae发布2.0版本,新增SOLO模式,可实现从想法到应用的一站式交付。上下文工程领域热度攀升,该概念因Andrej Karpathy推动而爆火,Trae迭代快,已建立完整能力体系。

InfoQ