「推理服务基础设施」共找到 2949 篇相关文章
AI Coding大佬聊透了：产品智能重要还是用户体验重要？答案让人意外
量子位举办AI Coding沙龙，百度、硅心科技等多位行业玩家参与。探讨AI编程从替代人转向协作、智能体发展、To B与To C界限模糊等话题，指出未来产品智能更重要，编程产品将服务更广人群，程序员技能需转变。
实证：现在的LLM根本不会Reasoning！
论文指出当前大推理模型（LRM）如DeepSeek - R1等可能只是在表演“思考秀”，遇到复杂问题就崩溃。研究者用4个可控谜题测试，有三大颠覆发现，还揭示思考过程的荒诞现象，直指行业痛点并给出发展方向。
清华推出AI数学家！独立完成数学理论难题，自动调用基本定理、构建证明思路
清华团队推出AI Mathematician（AIM）框架，可将LRMs推理能力延伸至前沿数学研究。它由三大模块驱动，有两大核心策略。实验显示其能解决多个挑战性问题，虽有不足，但未来有望成数学研究核心驱动力。
新DeepSeek R1代码能力直逼Claude 4！附生成任何优质网站的通用提示词
作者体验DeepSeek R1超8小时，发现其文本写作问题大幅修复，思维链推理改进，代码能力提升，前端审美直逼Claude 4。文章展示其前端能力，给出写前端网页提示词及设计逻辑，还探讨了其在复杂任务中的表现。
V0做不到、Bolt搞不定，Youware用MCP一键解决网页生成最大难题
Youware可快速将AI生成网页部署到线上。其更新后支持调用MCP生成网页，深度适配主流MCP服务，使用门槛低且免费。还上线积分系统，首页分类筛选更详细，作品页增随机按钮。用案例展示了其强大的网页生成能力。
首次披露！DeepSeek V3 发布软硬一体协同训练论文，公开「降成本」秘诀
DeepSeek团队发布论文《洞察DeepSeek - V3：规模的挑战和对AI架构硬件的思考》，从硬件架构和模型设计双重视角，探索其经济高效的大规模训练和推理方法，介绍了设计原则、低精度驱动等多方面内容及降成本秘诀。
腾讯Omega：下一代“AI BI”的答案？
本文介绍腾讯 Omega，它是为解决传统 BI 和 ChatBI 问题而设计的数据分析产品。Omega 能理解业务问题，生成完整 Dashboard，确保数据流动、安全和稳定，还支持人机协作，提供审美基础设施，性价比高，有完善运行时和监控推送等功能。
SGLang Custom AllReduce v1 与 v2 实现原理详解
文章聚焦 SGLang 里两代自定义 all-reduce 实现（v1 和 v2），前者从 vLLM 移植，后者是默认版本。详述其负载特征、前提条件、分发链、同步机制、算法及 CUDA graph 支持等内容，还对比了两代差异，并提及相关环境变量。
人手一个数据库，Kimi背后这套AI基建到底有多能扛？
Kimi K2.6的Agent模式可帮用户搭建全套齐备的网站，但工程算力挑战大。传统数据库难以承接其需求，Kimi后端选TiDB Cloud，做了三个关键决策。这不是孤立事件，反映行业趋势，TiDB还为Agent补齐运行时基础设施。
RL特训出「押题大师」？破解模型微调中的多样性危机与灾难性遗忘
近年来，基于可验证奖励的强化学习（RLVR）成为提升大语言模型推理能力的重要路径，但许多经RL微调的模型出现‘越训越单一’问题。复旦大学等团队聚焦长期被忽视的KL散度项，提出DPH - RL方法，可缓解多样性坍塌。