「LLM Inference」共找到 974 篇相关文章
从Demo到行业落地的Agents：技术、应用与评估
通用LLM Agent工业落地有短板，哈工大深圳与华为提出L1 - L5工业Agent能力成熟度框架，映射技术演进与产业场景，覆盖50+行业案例、300+评测基准，给出可量化‘爬级’路线。
中美六大顶尖模型第一赛季实盘量化交易结果出炉：Qwen最后反超夺冠，GPT-5垫底「复盘」
Nof1机构发起Alpha Arena项目，让六个顶尖LLM在Hyperliquid交易所实盘量化交易。第一赛季已结束，Qwen夺冠、GPT - 5垫底。复盘比赛过程，发现模型行为差异大且操作有脆弱性，第二赛季筹备近尾声。
除了prompting外，不动参数，如何改变模型行为？
文章指出传统提示工程控制大模型生成行为有缺陷，提出Steering Target Atoms (STA)方法。它用稀疏自编码器分解LLM高维表示，定位“原子知识组件”精准控行为，实验效果超现有技术，还能控制推理长度。
大模型推理上限再突破：「自适应难易度蒸馏」超越R1蒸馏，长CoT语料质量飞升
本文从中兴通讯无线研究院「大模型深潜」团队切入，介绍了首创的「LLM自适应题目难度蒸馏」方法，该方法围绕「模型 - 数据动态匹配」提出了一条完整的CoT构建流程，显著提升了长CoT语料的质量。
我用给DeepSeek 加了个搜索功能
作者为弥补DeepSeek无搜索聊天记录功能的不足，用Claude Code做了个插件。介绍了使用说明，还提及各LLM模型适用场景，称DeepSeek重模型智能，少营销但用户体验有折扣。此外，作者还用AI采集资讯发群。
刚刚，OpenAI前CTO Mira Murati公司Thinking Machines Lab发文，揭开了大模型不确定性的真相
OpenAI前CTO Mira Murati创立的Thinking Machines Lab推出研究博客Connectionism，首篇文章聚焦LLM推理的非确定性问题。研究发现真正原因是批次不变性缺失，提出实现批次不变内核的方案，实验效果显著。
没想到，最Open的开源新模型，来自小红书
向来低调的小红书昨日开源首个自研大模型 dots.llm1，它是中等规模的 MoE 模型，在较小激活量下性能良好。其开源力度堪称行业最大，还介绍了数据处理、训练优化等多方面技术细节。
Karpathy用「harness」彻底终结了RAG。
假期时Karpathy提出llm.wiki想法引发关注。它是元框架，定义人类与AI协作管理知识的方式。与RAG不同，它将新材料关键信息编入已有wiki并持续维护。作者用多种数据测试，发现TextIn API解析效果好，还优化处理流程提升质量。
停止迷信“超级Prompt”：要想AI不犯错，你得专门雇人“怼”它
这篇来自Isotopes AI的论文指出，在生成式AI落地中，迷信‘超级Prompt’不可取。对于高风险场景，单体LLM有局限，论文构建‘AI Office’架构，引入‘对手团队’概念，实验使准确率从60%提升到92.1%，但也有成本和局限。
一年成爆款，狂斩 49.1k Star、200 万下载：Cline 不是开源 Cursor，却更胜一筹？！
AI编程助手看似热门，实则多数亏本运营。Cline选择开源，允许用户自由组合LLM编程，个人免费，企业服务收费。它一年成明星产品，获49.1k Star、近200万下载，其创始人分享了产品理念、发展等多方面思考。