「AI推理加速」共找到 10974 篇相关文章
正确答案 ≠ 正确推理，CoT 或成大模型推理能力停滞的「罪魁祸首」？
研究指出当前大模型推理能力评估多关注答案准确性，忽视推理步骤。通过对前沿模型测试发现，2023 - 2024 年大模型推理能力提升停滞，进步靠提示工程，自底向上策略最有效。
MoE推理「王炸」组合：昇腾×盘古让推理性能狂飙6-8倍
在通往AGI进程中，MoE模型成大模型推理提效关键。华为推出Pangu Pro MoE 72B模型，经多方面优化，推理性能提升6 - 8倍。还采用多种策略和算法，在昇腾不同平台展现卓越性能，为大模型落地提供支撑。
对话贝陪科技：好的 AI 陪伴产品，应该让 AI 少说话
贝陪科技创始人黄缨宁分享打造儿童AI陪伴产品「可豆陪陪」的经验。产品让AI少说话，激发孩子表达欲，上线150天后留存率达51%。黄缨宁认为AI陪伴要营造成长环境，还介绍产品定位、使用场景、设计思路等。
让大模型异步地增强推理能力
在大模型推理时代，Test - Time Scaling成提升能力重要方向，但面临效率问题。ATTS提出异步框架，加入共形预测筛选候选路径，实验显示其加速显著，将测试时扩展推进到‘有原则加速’阶段。
投资人不再只看大模型？AI资本新逻辑揭秘｜甲子引力X
2025年AI投资进入新阶段，大模型竞赛趋理性，AI Agent等赛道加速发展，投资逻辑重构。甲子引力X圆桌对话中，六位投资人分享投资逻辑调整、新投企业及看法，探讨具身智能、物理AI落地等问题。
AI x 保险图谱：第一家 AI-Native 的保险独角兽会长什么样？
保险业规模庞大但运营效率极低，超 60%流程依赖人工，索赔周期长、客户满意度低。过去两年，LLMs 提升了 AI 处理非结构化信息的能力，使 AI 接管保险核心流程成为可能。GenAI startup 围绕保险流程构建产品，AI-native 保险公司也应运而生。
计算机科学家杰弗里·辛顿：“AI会让少数人更富，多数人更穷”
被誉为‘人工智能教父’的杰弗里·辛顿，见证了AI从学术走向主流。他从技术加速者变为警示者，指出AI或对人类造成严重伤害，还谈到应对风险方案、中国优势及AI对社会经济的影响等。
英伟达放弃GPU上LPU：新推理芯片被曝Groq即买即用，OpenAI第一个吃螃蟹
英伟达将在GTC大会发布新AI推理系统，核心芯片基于Groq的LPU架构，首位大客户是OpenAI。选择外部架构与时间窗口有关，推理场景中LPU更适配。同时，英伟达推理芯片面临诸多威胁。
1.2万人收藏单日斩获 3.4K！刚刚冲上 GitHub Trending 榜首的“AI 红队”工具！
AI加速代码编写，但也留下更多安全坑，传统扫描工具和人工渗透测试难以应对。新晋GitHub Trending榜首工具Shannon是全球首个开源全自动AI渗透测试员，多智能体架构，功能强大，适合AI编程团队。
哥大学生全员AI作弊？小哥「创业逆袭」：不用AI等于输在起跑线！
哥伦比亚大学被爆学生用AI作弊，Cluely创始人Roy Lee称哥大学生几乎都用AI作弊。他拿到1500万美元投资，其创业口号“万事皆可作弊”引争议。Cluely是集成化桌面AI助手，目标是打造乌托邦世界。