「低延迟推理」共找到 2954 篇相关文章
开源大模型SOTA又刷新！中国MiniMax M2全球排名第五，开源榜一
中国AI独角兽MiniMax发布模型M2，刷新开源SOTA。它采用混合专家架构，平衡了智能、速度和成本。在多个权威测试中表现优异，价格仅为Claude 3.5 Sonnet的8%，还提供多种部署方式和限时免费服务。
快手Klear团队提出CE-GPPO：通过梯度保留协调熵，解决强化学习中的熵不稳定问题
快手 Klear 语言大模型团队提出新强化学习算法 CE - GPPO，以「熵」为核心，提出梯度保留策略，重新利用裁剪外区间低概率 token 的梯度，实现策略熵的精细调控，解决强化学习中熵不稳定问题。
两招为GraphRAG图谱“提纯”，DEG-RAG效果有点炸~
文章指出传统RAG多跳推理和全局一致性能力受限，Graph - based RAG虽好但图谱噪音大。作者提出Deg - Rag方案，含实体消歧和关系反思两招。实验显示去噪后图谱效果提升，验证“Less is More”理念。
三季度，光刻之王“满血复活”，台积电成“AI印钞机”
日前，荷兰光刻机巨头ASML发布三季报，净销售额等数据亮眼，其预计四季度业绩更优，但2026年在华销售额或下降。同时，AI浪潮重塑芯片投资结构，ASML投资Mistral AI。台积电Q3营收、利润暴增，也面临依赖北美市场等问题。
「注意力经济」下，AI 生活助手能否解锁生服「新」刚需？
今年不少国内大厂加码AI生活助手赛道。腾讯、阿里、美团、京东、滴滴等各有动作，如腾讯在微信上线「元宝」，阿里在电商业务开发助手。当前AI应用使用时长和留存率不佳，而助手或能过滤信息、缩短决策链路。
谷歌 DeepMind 推出 CodeMender：自动修复代码的智能代理
谷歌DeepMind推出CodeMender，这一AI驱动的智能代理能自动检测、修复并加固软件漏洞。它结合多种技术推理程序行为，生成修复方案经自动测试和人工审核后提交。社区反响积极，长期影响待察。
西湖大学打造了一个AI科学家，突破人类SOTA，还能自己发论文
西湖大学文本智能实验室推出能自主探索的AI科学家DeepScientist，两周完成人类三年科研量。它在三个前沿AI任务刷新SOTA纪录，还能写论文。文中介绍其科研历史、工作方式、成果及面临的伦理问题。
哈佛CS博士月入4000，抢GPU搞科研！硅谷百万年薪挖人，学界疯狂逃离
AI人才大战使学术界陷入危机，博士生津贴低、抢显卡搞科研，面对硅谷百万年薪和大厂千亿算力投入诱惑，加速流向产业。教授担心学生跳槽，高校补救难，产业还推出“折中方案”，学术界考验才刚开始。
一篇大模型Agentic框架到应用最新综述
这是首篇系统拆解“大模型Agentic推理框架”的综述，不聊训练，只聚焦如何把LLM组织成会思考、协作、调工具的Agent，横跨科学发现、医疗、软件工程、社会经济模拟四大战场，给出统一语言、视角和评测。
云栖大会阿里掀桌子了！Qwen3-Max、VL、Omini、Agent ... 统统发布！
云栖大会上，阿里云智能首席技术官介绍千问多款新模型发布及一款升级。如万亿参数的Qwen3 - Max，代码和Agent能力强；还有Qwen3 - Coder - Plus、Qwen3 - VL、Qwen3 - Omni、Qwen3 - LiveTranslate等模型各有亮点。