「大模型推理训练」共找到 8583 篇相关文章
现在模型这么强还需要专业提示词吗？
文章探讨是否还需专业提示词，指出简单任务无需复杂提示词，但复杂任务时，它能像‘数学公式’拆解需求，还能充当‘工作流经理’。用好提示词能让AI成生产力工具。
大模型幻觉检测新方法：实时高亮不确定内容
来自苏黎世联邦理工学院等机构团队，开发流式幻觉检测器，能在生成过程中即时标记幻觉实体。核心是识别具体“实体”是否虚构，实验表现出色，团队已将数据集和代码开源，有局限但应用前景好。
大型语言模型正在掏空和填满你的钱包
人工智能改变赚钱和花钱方式，生成式AI每年或为全球经济增2.6 - 4.4万亿美元。文章介绍LLM在多领域应用，如客服降成本、内容创作提效率等，企业应积极拥抱技术革命。
2025CSDI:大模型引领智能研发与IT组织变革
文章指出AI发展将推动私有知识价值增大，其应用成战略重点。如DeepSeek打破行业固有观念，引领变革。未来智能时代经济源于智能体，AI重构企业生产力，2025CSDI峰会将探讨相关场景应用。
别听模型厂商的，Prompt 不是功能，是 bug
风险投资Conviction创始人Sarah Guo分享2025年AI创业观察，指出从用户体验看，prompt是缺陷非功能；传统低技术行业正快速拥抱AI；还分析了AI能力进展、应用案例及投资机会等。
谈一谈TP推理场景下MoE Group GEMM的优化思路
作者在使用H20测试SGLang CUTLASS MoE时，发现其在中小Batch Size场景下性能不佳。为此设计Expert Specialization方案，启动多个不同配置Kernel，依Expert计算特性选合适的。还介绍了该方案在H20和Hx00上的实现细节及性能测试结果。
从大模型到多模态，图文混排Agent彻底起飞~
上周智谱多模态开源周，从GLM 4.6v到Autoglm，其图文并排使用场景很吸睛。上传PDF论文，它能生成图文混排解读文章，效果好。作者逆向原理复刻代码，还分享GLM 4.6V三个有意思的能力。
刚刚，Gemini 2.5 Pro升级，成编程模型新王
Google DeepMind发布Gemini 2.5 Pro (I/O edition)，编程能力大幅提升，在编程排行榜超Claude 3.7 Sonnet。用户用一个提示词或草图+描述就能构建应用，谷歌大佬站台，网友实测效果佳。
构建分层的 Agentic RAG 系统：具备自主纠错的多模态推理
企业 AI 团队面临 RAG 系统在处理结构化与非结构化数据时的难题。本文探讨用分层多智能体编排解决“模态鸿沟”，介绍 Protocol - H 架构，阐述组件、机制、实现与集成，经基准测试验证其优势，还提及未来研究方向。
Life of a Token：像调试代码一样看懂大模型如何生成 Token
文章类比 Chrome 的 Life of a Pixel，追踪 LLM 里 token 从输入到输出的全程。以 GPT - 2 Small 为例，详细讲解其管线各阶段，如 Tokenization、Embedding 等，还介绍了残差流、KV Cache 等概念及 GPU 性能瓶颈和优化方法。