「推理加速技术」共找到 4890 篇相关文章
快手高欢深度解读：多模态理解如何成为AIGC视频生成的“幕后功臣”？
2024 年 AIGC 爆发，多模态理解技术支撑 AIGC 原生应用。快手高欢在 AICon 大会分享多模态理解在 AIGC 场景应用，介绍主流 AIGC 产品形态，探讨其背后多模态理解方法、提升能力途径及赋能 AIGC 的方向。
多模态思维链如何重塑 AI 与短视频的未来
传统多模态模型在动态视频理解与复杂推理场景面临挑战，快手开源的 Keye-VL 模型在多模态思维链技术实现突破。文章解析其核心技术，分享在快手短视频社区的落地应用，还探讨了未来“Think with Video”的技术方向。
Anthropic刚发布了一份「AI抢饭碗报告」：学历越高越「被抢」
Anthropic《经济指数报告》揭示，任务越复杂AI加速越猛，学历高的工作受影响大。还指出人机协作能大幅提升任务时长，不同国家AI应用有贫富和技术代差，也提到了‘去技能化’问题及对生产率的预测。
CMU&斯坦福提出Reasoning新范式！自己找“窍门”，教会LLM抽象Reasoning
大型语言模型解决复杂推理问题时效率低，论文提出创新方法，让模型利用“推理抽象”，通过RLAD两玩家强化学习框架训练，在多基准测试提升性能，还分析了其作用、局限与未来方向。
整体工程：有机解决复杂演进系统中的问题
软件开发中项目延期、架构偏离等问题，常由非技术力量导致。整体工程将这些力量纳入技术决策，能解决复杂演进系统问题，还介绍了实践方法及好处。
ICML 2026 | 只用少量Thinking Tokens，大模型依然能深度思考
近年来，CoT 推理成为提升大模型复杂问题求解能力的重要路径，但带来效率问题。浙江大学等团队提出 Heima 框架，将冗长 CoT 压缩为少量 thinking tokens，在减少 token 数的同时保留推理能力，已被 ICML 2026 接收。
重磅发现！大模型的「aha moment」不是装腔作势，内部信息量暴增数倍！
中国人民大学等联合团队研究发现，大模型推理有“信息脉冲”，特定步骤互信息值飙升形成“互信息峰值”，对应“思考词汇”。基于此提出无需额外训练提升推理性能的方法，代码已开源。
DeepSeek-R1全升级V2版：Token成本低至原来30%
DeepSeek - R1 V2版全维度升级，训练框架从‘单一RL’到‘多阶段协同优化’，推理能力从‘能推理’到‘会优化推理’，还提升了安全可控性，适配生态，推出轻量级模型。
三位哈佛辍学生，如何将专用芯片变成估值百亿美元的 AI 算力公司
文章聚焦 Etched 公司，分析推理成 AI 算力主战场背景，介绍三位哈佛辍学生创始人故事，阐述其从芯片到推理集群的产品打造，还提及团队、文化、资本情况，最后分析竞争格局与前景。
HBM更“热”了
HBM正从高性能计算领域向消费电子等市场渗透，技术迭代迅速。TSV等关键技术推动其性能提升，各企业技术路线有差异。应用领域广泛，但推广面临挑战。市场竞争激烈，各企业积极布局。