「高效推理」共找到 2495 篇相关文章
超越MLA！新架构MLRA百万token，解码最高2.8倍速 | ICLR'26
大语言模型处理长文本时，自回归生成受限于显存带宽。为减少KV缓存开销，业界尝试多种方法，但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA，拆分KV缓存为四个并行分支，降低显存占用，实现4路张量并行，性能更优。
GPT-5.4 发布，OpenClaw的能力要被取代？OpenAI 新模型不仅会自己用电脑，编程能力也拉满了
今天 GPT-5.4 发布，整合推理、编程及原生计算机使用能力。其原生电脑操作能力提升，与 OpenClaw 竞争。还带来工具搜索降成本、减少幻觉，编程能力增强但价格也升级。
IC产量增长10.9%、换道超车……今年“两会”的“芯”消息令人振奋
2026年全国“两会”进行中，“政府工作报告”显示2025年科技创新成果丰硕，如集成电路产量增长10.9%。代表委员对半导体等建言聚焦质的飞跃，还给出芯片产业化、算力布局等“解题思路”。
模型砍掉一大半，准确率反升15%！华科&阿里安全新研究实现ViT近乎无损的类特定压缩｜ICLR'26
华中科技大学联合阿里安全部提出Vulcan方法，一改传统压缩策略，通过“先训练再剪枝”实现ViT近乎无损的类特定压缩，为大模型服务小场景提供新路径，论文已被ICLR 2026接收。
nnU-Net：医学图像分割的自适应自动化框架
德国癌症研究中心团队提出 nnU-Net 自配置医学图像分割框架，能根据数据集特征自动推导预处理、网络拓扑等策略获稳健分割基线。文章介绍其原理、优缺点、评测案例及 Python 代码实现。
三星研究院发布手机端侧大模型MeKi：基于Memory的LLM扩展新范式，支持旗舰手机端侧部署
三星研究院发布端侧大模型架构MeKi，提出用存储空间扩展模型容量、提升LLM性能的新范式。它利用手机ROM缓解内存压力，实现容量与性能提升。实验显示其性能、效率表现优，为边缘部署LLM提供新思路。
清华刘知远团队论文：最小化结构改动，短文本到长文本丝滑升级 | ICLR 2026
大语言模型发展中，上下文长度成关键瓶颈，主流架构计算开销大。清华刘知远团队提出《InfLLM-V2: Dense-Sparse Switchable Attention for Seamless Short-to-Long Adaptation》，提出可切换注意力框架，为长上下文研究提供新思路。
BAI、高瓴领投，ThetaWave李文轩：我们想成为下一代年轻人默认的知识获取入口
AI-Native知识内容平台ThetaWave AI获数百万美金Pre - A轮融资，创始人李文轩分享创业历程、产品方向、获客与本地化策略等，还谈及产品功能、竞争优势及未来愿景，想成新一代内容平台。
谷歌发布 Gemma Scope 2，深化对 LLM 行为的理解
Gemma Scope 2 是谷歌推出的解释 Gemini 3 模型行为的工具，结合稀疏自编码器和转码器，能让研究人员检查模型内部表示。它从多方面扩展了原先的 Gemma Scope，还引入针对聊天机器人的分析工具，已发布权重。
轻量又好用的 RAW 图片编辑器
RapidRAW 是轻量的 RAW 图像编辑器，适用于多系统，为偏爱简洁流程的摄影师打造。它有 GPU 加速等特性，提供三种 AI 使用方式，有免费与付费选项，还介绍使用方法和系统要求。