「推理加速技术」共找到 4926 篇相关文章
清华退休教授余志平谈国产EDA发展之路
余志平教授全程参与“熊猫集成电路CAD系统”研发，获国家科技进步一等奖。他带领团队成立公司深耕垂直领域，推动构建国产EDA生态链。他认为突围要把握“缝隙效应”，还强调用AI辅助科研，培养高素质人才。
腾讯太极团队实现DeepSeek模型业内H20最高性能15800+ tokens/s
腾讯太极团队揭秘实现DeepSeek模型15800+ tokens/s业内H20最高性能的方法，通过PD分离、多层MTP优化等全栈优化方法论，还介绍多机性能优化方案，后续预计性能突破20000 tokens/s。
奶牛版 Oura 估值 10 亿美金，AI+PDF 让它拿了 1700 万美金融资
市场上多数AI PDF产品是ChatPDF模式，用于C端。企业关键非结构化数据多在PDF等传统载体中，难以获取。硅谷工程师做的Extend AI产品，获1700万美金融资，解决传统文档处理难题，打造平台。
国产芯片比英伟达整体效率更高！？华为 CloudMatrix384 超节点首曝论文，跑 DeepSeek 效率超越英伟达
今年4月，网上曾争论华为芯片效率是否超国际主流。近日华为团队论文公开，阐述在CloudMatrix 384超节点部署DeepSeek大模型细节，性能指标超英伟达体系，还介绍架构、软件栈及适配优化方案。
AI 驱动云上运维革命：腾讯云如何用“云顾问”重塑 SRE
在 AICon 大会上，腾讯云许小川介绍，面对云 IT 服务挑战，腾讯云推出「腾讯云顾问」可视化平台，涵盖架构梳理等功能。还分享多方面经验，用 AI 重塑 SRE，助力工作数智化升级。
张鹏对谈李广密：Agent 的真问题与真机会，究竟藏在哪里？
本文是《今夜科技谈》直播沉淀，极客公园整理。拾象科技李广密、钟凯祺从多维度拆解 Agent 真问题与机会，探讨产品、技术路径、商业模式等，指出 Agent 发展方向与挑战。
“不用 Cursor和 ChatGPT、手写代码的开发者，怕不是疯了？”
本文围绕开发者是否应使用AI辅助编程展开讨论。支持者认为大模型能提升效率，解决琐碎问题；反对者则质疑其可靠性。文中还分析了大模型在编程中的优缺点，如能生成代码但也有幻觉等问题，并反驳了一些反对观点。
印度国家级大模型上线两天仅 300 余次下载，投资人直呼“尴尬”：韩国大学生模型都有20万！
印度 Sarvam AI 发布国家级模型 Sarvam - M，虽被赞为本土 AI 研究突破，支持 10 种印度本地语言，但上线两天仅 334 次下载，投资人批评其成果‘令人尴尬’，引发社区激烈争论。
智元机器人发布并开源首个机器人动作序列驱动的世界模型
智元机器人发布并开源全球首个基于机器人动作序列驱动的具身世界模型 EVAC 及具身世界模型评测基准 EWMBench，构建全新开发范式，解决具身智能演进制约，提升策略模型筛选与训练效率。
极客说｜Unsloth 的全微调之路：从 Adapter 到 Full Fine-tuning
大语言模型参数多，微调难。Unsloth 原靠支持 Adapter 微调出名，现支持全参数微调，单卡就能搞定大规模模型训练。文章介绍其进化历程、关键技术、工程部署、使用优势及最佳实践。