搜索：并行推理加速

「并行推理加速」共找到 2691 篇相关文章

编程革命彻底爆发！刚刚，OpenAI最强智能体上线ChatGPT

OpenAI发布云端AI编程智能体Codex，由codex - 1加持，多任务并行，半小时可干完数天软件工程任务。它能完成多项编程任务，还与GitHub集成。已向部分ChatGPT用户开放，Codex CLI也有更新。

iPhone 17 Pro竟能跑8B大模型，如Qwen3 - 8B，推理较流畅。作者换机一是因eSIM，二为拍视频。其认为AI普及需端侧落地，此机芯片性能是好信号，盼出优质iOS客户端。

上个月开源的多模态模型 MiniCPM-V 4.5 广受好评，今日其技术报告出炉。报告从架构、数据和训练三方面探索高效路径，提出三大技术，使模型在多任务上突破，小参数规模下性能和推理速度佳。

本周五，Anthropic 技术团队成员 Thariq Shihipar 介绍新一代大语言模型工程趋势变化。Anthropic 发现旧提示词工程范式在新一代强推理模型发布后或过时，新的 Claude.md 应精简，大砍系统提示词后可把特定任务上下文交给 Skill。

浙江水利水电学院董慧贞团队提出YOLOv8 - SST算法，针对水面小目标检测的噪声干扰、定位不准、泛化能力弱三大痛点分别改进。经实验，该算法提升了检测精度，推理速度也能满足实时需求，还给出了实战代码。

智谱开源模型GLM - 5.1带来重大突破，14小时完成CUDA Kernel优化，加速比大幅提升。它解锁与顶尖闭源模型Claude Opus 4.6全面对齐，在多测试中表现优异，展现长程任务能力，改写行业叙事逻辑。

开源项目Eigent冲上GitHub Trending榜首，4天获4.5K+ Star。它是全球首个多智能体工作流桌面应用，完全开源、支持本地模型，有多种智能体工作流，具备本地优先、并行工作流等特性，提供三种使用模式。

上海交通大学等联合团队提出MemRL框架，在不微调模型参数下，让AI在“人类最后一场考试”中准确率跃至61.3%。该框架受人类认知科学启发，解耦推理与记忆，实验表现出色，或为AGI提供高效路径。

AI后训练依赖监督微调或程序化检查器，但很多有价值任务缺这两种资源。Meta超级智能实验室等机构研究者提出CaT方法，把推理时额外计算当教师信号，为大模型提供监督，实验显示效果显著。

AI数据分析初创平台Databricks官网宣布进行K轮融资，估值超1000亿美元。距上次融资仅7个月，当时估值620亿。计划用新资本加速AI战略等。其与Snowflake竞争，抵制上市压力。