「高效推理」共找到 2494 篇相关文章
智谱GLM-OCR，0.9B开源即巅峰，复杂文档精准解析
智谱发布并开源GLM - OCR，以0.9B轻量级参数在多项基准取得SOTA。它解决视觉感知难题，具备视觉编码与语言解码协作架构，还可端侧与高并发部署，成本低，推动文档智能化处理升级。
如何科学地“设计”SFT 数据？一次关于 ODA 的完整平台级验证
大模型后训练阶段，SFT数据构建常依赖‘直觉’或‘试错’。上海人工智能实验室OpenDataLab团队发布报告，基于OpenDataArena提出新范式，将数据集构建从‘随机艺术’变为‘确定性工程’，并进行平台级验证。
年底，国产开源LLM又迎来一波大爆发：Qwen、美团、智谱、腾讯、百川
年底国产开源LLM大爆发，抱抱脸热榜Top10占一半。介绍了Qwen3 - TTS、LongCat - Flash - Thinking - 2601等多个模型，各有亮点，如Qwen3 - TTS覆盖多语种，LongCat支持重思考模式。
语言模型内部还藏着众多策略模型？自底向上强化学习重塑底层特征 | 直播预约
现有强化学习工作将语言模型作整体策略优化，研究提出以策略视角审视内部隐藏状态，分析层级和模块级策略，发现不同模型模式差异，还提出自底向上强化学习策略，为研究架起新桥梁。
把RoPE扔掉，AI更能看懂长上下文！Transformer作者团队开源大模型预训练新方法
Transformer架构核心作者之一Llion Jones团队开源新技术DroPE，可丢弃位置嵌入扩展上下文，解决RoPE长序列处理缺陷，在多模型实验中表现卓越。该团队来自Sakana AI，此前还有相关研究成果。
AI Coding 长文分享：如何真正把工具用起来，从原理到实践
本文系统分享高效使用AI编程工具的方法，涵盖底层机制、提升对话质量的方式、实际应用场景，还推荐结合AI的编码最佳实践，旨在助开发者用好AI工具。
谷歌智能体发力：增强版Gemini Deep Research和专属API都来了
OpenAI强势更新，谷歌也没闲着。正式发布增强版的Gemini Deep Research，配套推出DeepSearchQA基准测试集，还发布了Interactions API，这不仅是Deep Research升级，还是Gemini生态的大升级。
刚刚开源就爆火，轻量快速，GB 大文件都秒开！
文章介绍刚开源就爆火的文本编辑器Fresh，它基于Rust语言，目标轻量、快速、功能强大，支持多平台。有上手0门槛、轻量快速等特性，还给出多平台安装方式和基本使用方法，值得开发者尝试。
一键秒懂GitHub仓库，开发者必备！
面对陌生的GitHub项目，直接把代码扔给AI效果不佳。而`Gitingest`这款开源工具，能将Git仓库转化为适合LLM处理的文本摘要，适配各类AI助手输入需求，使用方式灵活，在GitHub上很受欢迎。
jiSGLang集成ktransformers：2TB内存运行Kimi K2 Thinking模型
对于内存多但GPU资源有限的用户，SGLang集成ktransformers的CPU内核，支持直接运行Kimi K2 Thinking模型。它无需等量化，还能微调，虽性能与GPU方案有差距，但给用户新选择。