搜索：模型使用技巧

「模型使用技巧」共找到 8586 篇相关文章

Life of a Token：像调试代码一样看懂大模型如何生成 Token

文章类比 Chrome 的 Life of a Pixel，追踪 LLM 里 token 从输入到输出的全程。以 GPT - 2 Small 为例，详细讲解其管线各阶段，如 Tokenization、Embedding 等，还介绍了残差流、KV Cache 等概念及 GPU 性能瓶颈和优化方法。

国庆前智谱AI发布新一代旗舰模型GLM-4.6并将开源，它在多方面提升，如编码、上下文长度等，评测性能佳，token消耗降低。经实测，其代码、研究、开发等能力强，成全球开源AI领域重要力量。

AI Agent浪潮来袭，主流用LLM构建，但英伟达和佐治亚理工学院研究人员论文指出，多数Agent场景中，小语言模型（SLM）已足够强、更好管、更省钱，还给出迁移清单、避坑建议和参考系统形态。

文章围绕基于AI大模型的故障诊断与根因分析展开，介绍项目背景、目标与原理，阐述要解决的运维痛点及技术架构、知识库构建，还提及ReAct模式实现、Dify工作流及ClaudeCode对比，目前根因定位成功率有所提升。

现有端到端对话模型推理能力未解锁，因深度思考带来延迟。为此提出 Mini - Omni - Reasoner，采用边思考边表达范式，突破‘要么快，要么准’困境，还设计了数据合成管线和五阶段训练方法，实验证明其性能提升明显。

昨晚，炒作一月的GPT - 5正式发布，标志原生Agent时代到来。体验显示其压低幻觉、提升指令遵循与推理能力。文中还对比了GPT - 5、Gemini、Claude等模型在不同场景表现，指出御三家路线分化及三条反常识判断。

Meta允许求职者在编程面试中使用AI，这一决定与Amazon等科技巨头不同。扎克伯格对AI编程很有热情。网友看法不一，Meta回应称此举合理，还计划在招聘中更广泛用AI，强调人际交流仍是面试一部分。

两张对话截图展现语言模型缺陷，用户发简单问候，模型过度分析，从问候语正式程度到表情符号语义权重，这种过度分析让对话不自然，错过人类交流重点。

英伟达推出新一代开源模型Nemotron 3 Super，专为大规模AI智能体打造，有1200亿参数，推理快、吞吐量高，性能直逼Claude Opus 4.6等。它解决了Agent应用的难题，还开源了相关数据和训练方法。此外，英伟达还在打造NemoClaw开源AI智能体平台。

HexStrike是开源渗透测试工具，以MCP为底座。其核心智能组件IntelligentDecisionEngine是专家系统，将安全专家经验规则化，通过知识库和算法提供工具选择和参数优化，提升渗透测试效率。