「推理性能优化」共找到 4171 篇相关文章
GPT-5.1凌晨突袭，奥特曼听劝！全网呼唤的人味回来了
今天，OpenAI GPT-5.1「全家桶」登场，Instant和Thinking同步上线。模型情商智商双核升级，更聪明且聊天有人味。OpenAI还优化自定义ChatGPT语气选项，新功能将逐步开放。
阿里开源SmartResume，简历解析无需手工
阿里在Hugging Face和ModelScope上开源智能简历解析系统SmartResume，能将多种格式简历转为结构化数据，分三阶段工作，性能优于基线方法，为HR和开发者提供工具。
Databricks收购Mooncake，Lakebase想给AI应用换个“心”
Databricks收购Mooncake Labs，旨在推进为AI智能体优化的新型OLTP数据库Lakebase。它基于Postgres，想让数据直接用于工作负载，省去ETL流程，简化AI应用后端数据架构设计。
IBM推出轻量多模态文档神器！OCR与QA超GPT-4o，识别率高达98%！
日常文档处理麻烦，现有工具或体积大、算力消耗高，或识别精度不够。IBM 开源轻量多模态文档处理模型 Granite - Docling，仅258M参数，性能超 GPT - 4o，适用于多场景。
第一个用物理做计算原语的大规模生成模型Un-0来了，或将AI能耗降低1000倍？
Unconventional AI 发布首个以物理为计算原语的大规模生成模型 Un-0，由‘模拟耦合振子系统’驱动。其目标是降低 AI 能耗，在 ImageNet 64×64 上 FID 达 6.74，质量接近部分主流传统图像生成方法刚发布时水平。
外国科学家从汉字中找到了设计超强材料的灵感！“天”字形材料最坚固
4月21日爱丁堡大学研究人员在《应用物理学杂志》发文，将“人”“大”“天”“夫”字形转化为超材料结构单元，经压缩实验发现汉字字形中藏力学规律，“天”字形材料性能最优。
清华刘知远团队论文：最小化结构改动，短文本到长文本丝滑升级 | ICLR 2026
大语言模型发展中，上下文长度成关键瓶颈，主流架构计算开销大。清华刘知远团队提出《InfLLM-V2: Dense-Sparse Switchable Attention for Seamless Short-to-Long Adaptation》，提出可切换注意力框架，为长上下文研究提供新思路。
MiniMax海螺视频团队首次开源：Tokenizer也具备明确的Scaling Law
MiniMax海螺视频团队首次开源，揭晓视觉分词器难题答案。其推出的VTP框架可提升模型性能，解决传统Tokenizer缺陷，还展示了Tokenizer的Scaling Law，为行业提供新路径。
vLLM PIECEWISE CUDA Graph 技术学习笔记
文章围绕vLLM PIECEWISE CUDA Graph技术展开，介绍了vLLM Compilation架构、分片编译技术、算子融合、集合通信融合、编译缓存、装饰器系统等内容，PIECEWISE技术让vLLM在prefill阶段性能提升。
4倍无损压缩Diffusion，6倍加速！仅需时间特征维护 | TPAMI'25
扩散模型时间特征对量化敏感，现有量化方法会致其扰动，影响图像质量。港科大等多校团队提出TFMQ - DM框架，优化时间特征相关模块，提升低比特量化性能，实现硬件加速。