「分布式推理系统」共找到 3612 篇相关文章
如何科学地“设计”SFT 数据？一次关于 ODA 的完整平台级验证
大模型后训练阶段，SFT数据构建常依赖‘直觉’或‘试错’。上海人工智能实验室OpenDataLab团队发布报告，基于OpenDataArena提出新范式，将数据集构建从‘随机艺术’变为‘确定性工程’，并进行平台级验证。
语言模型内部还藏着众多策略模型？自底向上强化学习重塑底层特征 | 直播预约
现有强化学习工作将语言模型作整体策略优化，研究提出以策略视角审视内部隐藏状态，分析层级和模块级策略，发现不同模型模式差异，还提出自底向上强化学习策略，为研究架起新桥梁。
把RoPE扔掉，AI更能看懂长上下文！Transformer作者团队开源大模型预训练新方法
Transformer架构核心作者之一Llion Jones团队开源新技术DroPE，可丢弃位置嵌入扩展上下文，解决RoPE长序列处理缺陷，在多模型实验中表现卓越。该团队来自Sakana AI，此前还有相关研究成果。
AI Coding 长文分享：如何真正把工具用起来，从原理到实践
本文系统分享高效使用AI编程工具的方法，涵盖底层机制、提升对话质量的方式、实际应用场景，还推荐结合AI的编码最佳实践，旨在助开发者用好AI工具。
最新最完整的Agent Memory综述！
《Memory in the Age of AI Agents: A Survey》由多顶尖机构联合发布，对AI智能体记忆机制系统梳理。从形式、功能、动态维度厘清AI记忆本质，提出构建下一代强人工智能的蓝图。
谷歌智能体发力：增强版Gemini Deep Research和专属API都来了
OpenAI强势更新，谷歌也没闲着。正式发布增强版的Gemini Deep Research，配套推出DeepSearchQA基准测试集，还发布了Interactions API，这不仅是Deep Research升级，还是Gemini生态的大升级。
Nature重磅：智能的尽头是算力！谷歌大佬承认「预测下一个词即智能」
芯片速度触顶，摩尔定律失效，但AI却在疯狂跃迁。Nature文章指出，智能的增长不靠芯片加速，而是结构重组与协作。其核心是预测和并行协作，AI正以类似生命演化的方式发展，与人类相互依存。
Linux之父又开喷：AI泡沫“病态扭曲、迟早暴跌”、马斯克式KPI“愚蠢到不该待在科技圈”
Linus Torvalds 在节目中谈诸多话题。他认为 AI 是泡沫且市场叙事病态，迟早暴跌，但也会改变社会和工作方式；不认同用代码行数衡量绩效，称此举愚蠢。还谈了对 Linux、Git、微软等看法，以及装机细节。
jiSGLang集成ktransformers：2TB内存运行Kimi K2 Thinking模型
对于内存多但GPU资源有限的用户，SGLang集成ktransformers的CPU内核，支持直接运行Kimi K2 Thinking模型。它无需等量化，还能微调，虽性能与GPU方案有差距，但给用户新选择。
Soul APP开源了一款高保真播客生成框架，90 分钟对话零崩盘！
Soul APP背后的Soul AI Lab发布开源项目SoulX - Podcast，是高保真推理框架，能生成90分钟以上连贯对话，有多方言切换等功能，或重塑语音内容产业生产方式。