「AI边缘推理」共找到 11127 篇相关文章
一天 15k 星，代码生成碾压 Claude，连 Cursor 都慌了？谷歌 Gemini CLI 杀疯了
谷歌发布 Gemini CLI，有慷慨免费使用配额，开源且不到一天获 15.1k 星。它连接 MCP 服务器，具备 Agentic AI 能力，接入 Gemini 2.5 Pro 模型，在代码生成等方面表现出色，谷歌认为通用模型更优。
继AlphaFold之后，DeepMind再放“大招”：AlphaGenome直击疾病根源
谷歌DeepMind推出AI模型AlphaGenome，可预测DNA序列微小变化对基因调控的影响，已向非商业研究领域开放。它能处理长序列、输出高分辨率结果，有四大优势，在多领域有研究潜力，但也存在局限。
8B模型可以超过GPT-4o！并行KV Cache压缩支持的128K长度外推方法ParallelComp
大模型长文本推理存在瓶颈，作者提出 ParallelComp 方案。它有并行 Attention 分块、KV 缓存智能淘汰与注意力偏差校准三大创新，能让 8B 模型性能达 GPT - 4o 的 91.17%，特定任务超 GPT - 4o。
图解Vllm V1系列6：KVCacheManager与PrefixCaching
文章聚焦vllm v1，阐述调度器取请求时判断设备有无充足空间做推理的问题，涉及KVCacheManager与Prefix Caching。前者管理请求和块，后者通过找最长一致前缀节省显存，还介绍块分配释放策略与流程。
港科广等发布首个医学世界模型！精准模拟肿瘤演化，规划治疗方案
医学世界模型（MeWM）是创新AI系统，能模拟疾病演变、预测肿瘤变化，助医生术前评估治疗效果、优化方案。港科广等团队提出该模型，有肿瘤演变模拟等三核心贡献，在多方面实验表现佳。
2499 元产品背后：地瓜机器人将智驾 know-how 转为机器人新解法
AI重塑机器人技术边界，具身智能成新战场。地瓜机器人从地平线拆分，将智驾经验用于机器人。它提出大小脑分层架构落地更快，还推出RDK S100套件，搭建具身智能底座应对数据和应用难题。
LangChain官方实测：多智能体架构怎么选？
构建AI Agent时，单智能体应对复杂场景易“变笨”且难维护。LangChain官方评测主流多智能体架构，在复杂零售场景实验，对比单智能体、Swarm、Supervisor架构的性能、成本，还给出优化Supervisor架构的方法。
18天光速打脸！OpenAI刚夸TypeScript最合适，转头就用Rust重写Codex CLI
OpenAI推出AI编码神器Codex，向ChatGPT Plus用户开放，还增加互联网访问功能。此前其宣布用Rust重写Codex CLI，该项目维护者Matin入职刚一年，半月前还称TypeScript最合适。改用Rust可带来多方面改进。
49.8亿元，寒武纪定增申请获受理
6月4日晚，寒武纪49.8亿元定增申请获上交所受理，这是其上市五年内第二次定增且金额最大。公司业绩增长，董事长陈天石介绍发展规划，定增或与AI浪潮有关，资金用于芯片和软件平台等项目。
阿里通义的视觉RAG革命！VRAG-RL：基于强化学习的视觉感知RAG框架，性能飙升30%
阿里巴巴通义实验室推出VRAG - RL，融合视觉感知、多模态推理与强化学习，已在GitHub开源。它破解传统RAG处理视觉数据难题，通过创新机制提升性能，在多数据集表现出色，还将向更拟人化和低幻觉方向发展。