「推理加速技术」共找到 4962 篇相关文章
Nature重磅：智能的尽头是算力！谷歌大佬承认「预测下一个词即智能」
芯片速度触顶，摩尔定律失效，但AI却在疯狂跃迁。Nature文章指出，智能的增长不靠芯片加速，而是结构重组与协作。其核心是预测和并行协作，AI正以类似生命演化的方式发展，与人类相互依存。
基于AI大模型的故障诊断与根因分析落地实现
文章围绕基于AI大模型的故障诊断与根因分析展开，介绍项目背景、目标与原理，阐述要解决的运维痛点及技术架构、知识库构建，还提及ReAct模式实现、Dify工作流及ClaudeCode对比，目前根因定位成功率有所提升。
万卡时代，企业需要怎样的算力集群？
过去两年，AI算力需求跃升，消耗从训练主导转向推理驱动。企业算力需求有突发性等特点，智算集群是关键方案。InfoQ联合腾讯云发起直播探讨，还介绍了算力供给缺口、集群构建交付、性能优化及演进方向。
你急它不急：GPT-5先判断，再决定「速答」还是「深想」
OpenAI副总裁Jerry Tworek透露，GPT - 5能判断问题难度，分配思考时间，决定何时停下。它升级了推理能力，有了时间感，采用受控思考机制，提升了复杂任务准确率，减少幻觉。其进化历经o1、o3到GPT - 5阶段。
离谱：打造超10亿美元的独角兽，从真人假扮成AI开始
2017年两位创业者多次失败后，决定做自动记录会议笔记的AI助手，却无AI技术，便真人假扮。这种模式竟让他们赚到钱后开启自动化。如今Fireflies.ai估值超10亿美元，但早期做法引隐私等争议。
刘鹏飞组发布上下文工程2.0：人机交互的全新视角
刘鹏飞组论文《Context Engineering 2.0: The Context of Context Engineering》重新梳理上下文工程领域。它追溯其20多年历史，给出形式化定义与四阶段模型，探讨关键问题，将其从技术技巧升为系统学科，为理解人机交互提供新视角。
清华联手快手可灵，撞车谢赛宁团队RAE，用SVG再证明VAE已过时
AI图像生成正告别VAE技术。清华与快手可灵联合提出SVG方案绕开VAE，纽约大学谢赛宁团队也提出RAE模型。SVG用自监督特征构建潜空间，在质量、效率和通用性上超传统，证明统一视觉模型可行。
DeepSeek重磅开源3B OCR模型，一天处理20万页文档！一天内斩获6K标星！
DeepSeek开源3B OCR模型DeepSeek - OCR，参数量仅30亿，单张A100 - 40G一天能处理20万页文档，不到24小时获6K标星。它是视觉压缩引擎，解决大模型处理长文本算力爆炸问题，有诸多技术亮点。
Temperature Scaling可大幅提高Test-Time Scaling瓶颈！
大型语言模型解决复杂推理问题时，测试时扩展（TTS）是提升性能的途径之一。但传统TTS依赖增加样本数量，性能提升有瓶颈。本文提出温度缩放新思路，实验表明其能大幅提升性能，还给出降低成本方法。
最强DeepResearch！通义DeepResearch-30B开源实战：模型部署+LangGraph+A2A全攻略
阿里发布全开源项目通义DeepResearch，在研究任务评测中表现出色，底层是30B的MoE专用推理模型，资源需求低。文章演示了基于该项目构建本地化端到端DeepResearch助理的方法，包括模型部署、Agent实现等。