搜索：并行推理加速

「并行推理加速」共找到 2686 篇相关文章

港科联合港中文提出AdaCtrl，自适应可控Reasoning，可降10~90%

港科联合港中文提出AdaCtrl，解决LLM推理的过度思考、算力浪费和响应延迟问题。它有自适应和用户控制两种模式，通过两阶段训练法实现目标，实验效果好，未来或拓展到多领域。

OpenAI研究科学家陈博远介绍GPT Image 2官网博客花絮，分享模型训练、测试情况，还展示亲手制作的官网图片，包括中文彩蛋、漫画、杂志页等，体现模型文字渲染、视觉推理等能力。

Claude Code创始人Boris Cherny公开团队使用该AI编程工具的完整经验，涵盖并行处理、计划模式等10个实战技巧，还指出理解思想、找到适合自己的工作流程更关键。

离开Meta后，Yann LeCun创立AMI，还加入Logical Intelligence任技术研究委员会主席。该公司推能量 - 推理模型，与主流大模型路线不同，其Kona模型在数独测试上表现远超大模型。

国内模拟芯片领军企业纳芯微港股上市。全球模拟芯片市场稳健增长，中国市场规模扩大但自给率低。本土头部厂商聚焦细分赛道攻坚，新兴场景带来机遇，模拟芯片本土化正加速提升。

LandingAI的Agentic文档提取API可从复杂文档提取结构化数据，Python库agentic-doc封装该API，支持100+页PDF长文档，有自动重试、并行处理等功能，还能可视化调试。

今年是AI应用大规模落地年，参数小的端侧模型有特定场景性能优势。5月11日面壁智能开源MiniCPM-V 4.6，参数仅约1B，多模态能力超阿里、谷歌同类模型，还在多维度提升，站稳端侧多模态开源领域。

华中科技大学联合阿里安全部提出Vulcan方法，一改传统压缩策略，通过“先训练再剪枝”实现ViT近乎无损的类特定压缩，为大模型服务小场景提供新路径，论文已被ICLR 2026接收。

英伟达CEO黄仁勋在播客对话中称，即便AI未出现，英伟达靠加速计算也能成巨无霸。他盛赞中国算力与能源优势，反驳中国缺AI芯片的观点，还谈及错失与OpenAI等合作的经历。

Anthropic宣布全面升级Claude「计算机使用」能力，操作可在后台完成。该功能处于Beta测试，已向Claude Pro和Max订阅的macOS用户开放。Claude此次更新覆盖多场景，人机并行时代或来临。