「AI推理加速」共找到 11077 篇相关文章
曝梁文锋不满内部会议泄露,DeepSeek或暂停新融资;卡帕西入职Anthropic仅两月疑离职;日媒拆解宇树G1后认输:短期内赶不上中国|AI周报
这篇AI周报涵盖多则热点,如DeepSeek因会议纪要外泄或暂停融资;AI大神Karpathy入职Anthropic两月引离职传闻;美国指控K3蒸馏大模型,黄仁勋等支持开源AI;还有企业人事变动、模型发布及应用等消息。
AI编程里程碑!谷歌AI自己写代码惊呆工程师,GPU内核算法反超人类21%
谷歌AlphaEvolve的开源实现OpenEvolve自学写代码,在苹果芯片上进化出比人类快21%的GPU核函数。它自主发现多项优化策略,经多维度测试,性能显著提升,开启「AI为AI编程」新时代。
微软 Agentic 组织:下一代 AI 系统
微软研究院提出全新推理范式AsyncThink,让LLM从单打独斗进化成带团队的项目经理。它把并发控制转为纯文本协议,经两阶段训练,实验中全方位碾压传统方法,还具跨领域泛化能力。
谷歌:全栈AI之王
随着Gemini 3模型与第七代TPU的发布,谷歌打破OpenAI与英伟达主导的市场叙事。其全栈AI战略从底层基础设施到用户产品全覆盖,TPU进化、软硬件契合,吸引大客户,C端产品成发展引擎。
回复:用 AI 辅导教学问题
家长询问用Gemini 2.5 pro的OCR功能辅助孩子预习九门课程的问题,包括撰写提示词、有无更合适AI方案、家长角色及评估学习成果等,回复给出对应建议,如没必要上传教材等。
“中国最有钱的3个男人”,开战了
2026年春节,腾讯、阿里、字节三大互联网巨头在AI领域正面交锋。腾讯重振旗鼓,阿里定义AI叙事,字节加速全球化。此前,DeepSeek让战争真正开始,各巨头反应不同。此外,还涉及人才竞争、组织协作及AI对世界开放性的影响。
The Batch: 899 | 更划算的推理
研究人员提出 Delethink 强化学习方法,训练大模型定期截断推理 token 至固定最大数量,以限制处理长思维链成本。经测试该模型在多方面超基线,且缓解计算成本限制,为长上下文推理提供路径。
AI 编程带来的新变革
作者分享在 Amazon Bedrock 用 AI 智能体写代码的项目经验,指出人与智能体协作使代码产出率大幅提升,但也带来 Bug 增多、CICD 管线阻塞、沟通成本增加等挑战,需重新思考软件开发方式。
AI办公斩杀线,一页文档多少钱
腾讯混元Hy4 preview正式发布并开源,参数770B,是开源阵营里参数最大的Apache 2.0模型。它能处理长文本,官方定位有软件工程、办公分析等四个方向。还分析了处理一页文档的成本,指出办公AI下半场重在‘读懂’。
如何重现 DeepSeek 推理性能突破
DeepSeek-V3 是热门开源大模型,采用大规模 MoE 架构,优化推理性能是工程难点。阿里团队在 RTP - LLM 完成优化,对齐其推理系统性能,分享关键技术、不足与思考,还提及对 Qwen3 模型的优化策略。