「推理优化与部署」共找到 3516 篇相关文章
刚刚！Ilya首个模型曝光了
前OpenAI首席科学家Ilya离开两年后，X网友爆料其创办的SSI正探索基于TTT的小型推理引擎，当前版本或8月向少数用户开放。该爆料与Ilya观点及英伟达合作等线索相符，但也面临安全难题。
GPT-5通过“哥德尔测试”！独创性解决博士生都得花几天时间的开放数学问题
最新论文中，研究人员让GPT - 5挑战5个未解决的优化猜想，它解出3个，还对一题给出不同有效证明方案。测试题需博士水平研究者花几天完成，研究还“挑衅”了陶哲轩对大模型数学能力的印象。
万卡时代，企业需要怎样的算力集群？
过去两年，AI算力需求跃升，消耗从训练主导转向推理驱动。企业算力需求有突发性等特点，智算集群是关键方案。InfoQ联合腾讯云发起直播探讨，还介绍了算力供给缺口、集群构建交付、性能优化及演进方向。
梳理SGLang中DP Attention及其Padding问题
作者梳理SGLang中DP Attention及其Padding问题。介绍DP Attention背景、流程，指出padding分max和sum模式，旧版sum padding浪费计算、影响cuda graph使用，v0.4.10后有优化，max padding仍待完善。
AI修真的一年：学者们怎么看“真智能”？｜甲子光年
甲子光年在年终盛典对话三位学者，探讨AI“真假智能”。学者们提及强化学习、推理、多模态等技术突破，分析研究路径，还谈选择标准与未来期待，指出AI是工程实践命题，真与假关乎信念选择。
Qwen3-Embedding 全揭秘：从技术到服务，打造高效AI产品的关键路径
文章全面揭秘 Qwen3-Embedding，介绍其核心原理、优势、应用场景。还给出在 PAI 和百炼平台的使用方法，含部署、推理、微调等。通过对比实验，凸显其低延迟、低成本特点，未来将成语义理解核心设施。
腾讯LLM团队：对下一个 Token 预测的深入剖析，多样性 or 精准度？
最新研究证实RL能增强LLM推理，但成效受限预训练token分布。腾讯LLM部把交叉熵重写成单步策略梯度，用超参压熵，为RL打造‘低熵高信号’起点，经实验验证低熵模型优势明显。
Runway Gen-4.5刷屏发布，把重量、尘土和光影都做对了，网友：颠覆
Runway Gen-4.5突袭发布，获“视频生成AGI时刻”评价，在Artificial Analysis测试中拿下SOTA。它能精准执行复杂指令，物理还原与视觉精准度强，官方将逐步开放使用权限，还直言其存在因果推理等局限。
RAG终极框架！港大开源RAG-Anything：统一多模态知识图谱
香港大学黄超教授团队发布开源项目RAG - Anything，构建统一多模态知识图谱架构，解决传统RAG技术局限。它能处理多类型异构内容，提供端到端方案，有多种优势及应用模式，还给出部署指南和未来展望。
开箱即用、本地安全、多 Agent 协同解决方案！
过去一年，Agent热度高，但企业应用面临算力、安全和部署门槛。5月22日浪潮信息推出元脑智能体工作站Z3，整合大模型本地推理等功能，解决本地多Agent运行问题，降低使用门槛，保障安全。