「通用推理技术」共找到 5009 篇相关文章
RTP-LLM 在相关性大模型中的推理优化最佳实践
淘宝搜索场景引入大参数LLM模型，面临系统性能挑战。本文分享基于RTP - LLM框架的优化实践，如大BatchSize调度、批次内前缀复用、MoE Kernel动态调优等，还提及未来优化方向。
展览聚焦｜类型叙事中的技术、情感与未来主义
中间美术馆正展出“抛锚歌单”，汇集16位中瑞艺术家作品。本文聚焦艺术家杨迪，他以影像和装置为媒介，借类型文学与电影叙事框架探讨科技时代困境。其作品揭示虚拟迁徙代价，还分享创作相关看法。
谈一谈TP推理场景下MoE Group GEMM的优化思路
作者在使用H20测试SGLang CUTLASS MoE时，发现其在中小Batch Size场景下性能不佳。为此设计Expert Specialization方案，启动多个不同配置Kernel，依Expert计算特性选合适的。还介绍了该方案在H20和Hx00上的实现细节及性能测试结果。
通用的dLLM开发框架，让BERT掌握扩散式对话
扩散式语言模型（DLM）因缺乏易用框架和训练成本高受限。伯克利与UIUC团队基于dLLM框架，让BERT学会对话，证明‘离散扩散 + 轻量级指令微调’可赋予BERT强生成能力，还开源全流程代码。
从技术狂欢到企业落地，智能编程的全球破局战
智能编程是AI应用增长迅猛赛道，全球60%开发者用其构建工具。国内厂商有优势，如阿里Qwen3 - Coder编程能力强。阿里云双驱动破局，还分享企业落地经验，且智能编程正迈向自主开发时代。
从技术狂欢到企业落地，智能编程的全球破局战
智能编程是AI应用增长快的赛道，正从代码补全迈向AI自主开发。国内模型能力提升，阿里Qwen3 - Coder超越部分闭源模型。阿里云通过多策略破局，其产品助力企业落地，但仍面临适配、安全等挑战。
高阶程序，让AI从技术可行到商业可信的最后一公里
文章指出进入AI下半场，可靠性成关键。当前多种探索路径有局限，企业常用RAG、智能体框架等方案也各有问题。而高阶程序（HOP）是神经 - 符号思想的工程实践，能为AI构建可靠控制系统，已在金融等行业展现价值。
文心新出的推理大模型，给了我们信心
在 WAVE SUMMIT 2025 大会上，百度发布文心大模型 X1.1，是 X1 升级版，发布即上线可免费体验。它在事实性、指令遵循、智能体等能力显著提升，全方位测评表现出色，还开源新模型，展现百度全栈 AI 实力。
腾讯开源了一个通用智能体，又刷榜了GAIA~
腾讯优图实验室开源了 `Youtu-agent`，在深度搜索和工具使用benchmark上表现佳。它不依赖GPT/Claude，有自动智能体生成功能，提供单、多智能体模式，还集成分析平台，可实时调试与离线分析。
GPT-5的魔幻现实主义：当技术神话撞上用户预期
奥特曼宣传数月的GPT - 5上线24小时遭用户吐槽，实测基础数学、拼写有问题。其采用智能路由系统，调教欠佳。奥特曼承认自动切换器故障，基准测试结果混乱，还暴露AI评价难等问题。