「推理优化与部署」共找到 3538 篇相关文章
拳打可灵，脚踢 Veo 3，谁是物理世界的「懂王」？
多模态视频生成大模型是复杂系统工程，多为巨头游戏。MiniMax的Hailuo 02发布，ELO得分超谷歌Veo 3和快手Kling 2.0。它能呈现复杂运动，处理物理关系，提升训练推理效率，成本低，后续还将更新。
大模型进入研发体系后，我们看到了这些变化
InfoQ《极客有约》X AICon 直播邀请同程、网易、百度工程师探讨大模型入研发体系的变化。指出其在提效、协作、分工上作用大，还分析了适用场景、工程师收益类型及核心竞争力等，也提及效率评估、代码生成等问题。
o3-pro正式推出！说声“嗨”就花了80美元，思考1+1用时16分钟
OpenAI推出推理模型o3 - pro，同时o3降价80%。官方测评o3 - pro表现佳，但价格贵、响应慢。o3‘是否降智’引争议，奥特曼发小作文探讨AI对人类社会影响，还透露公开权重模型推迟。
没想到，最Open的开源新模型，来自小红书
向来低调的小红书昨日开源首个自研大模型 dots.llm1，它是中等规模的 MoE 模型，在较小激活量下性能良好。其开源力度堪称行业最大，还介绍了数据处理、训练优化等多方面技术细节。
真6，上线几天，轻松斩获10k，首款开源通用AI智能体Suna：一句话自动处理Excel/爬数据/写报告，程序员私人助理诞生！
Suna是Kortix推出的全球首个开源通用型AI Agent，核心突破是“执行力”，能像人类员工操作数字工具。它开源透明，是全能数字员工，已落地多场景，有五大核心功能。还给出部署方法和同类对比。
4万多名作者挤破头，CVPR 2025官方揭秘三大爆款主题， 你卷对方向了吗？
CVPR 2025 官方根据 4 万多名作者 13008 份投稿，总结出计算机视觉热门的三大方向，即基于多视角与传感器的 3D 技术、图像与视频合成、多模态学习（视觉、语言和推理），并介绍了各方向热门原因。
狂涨 36.9K star！！看看人家的开源微信机器人多优雅，微信、飞书、钉钉支持，效率飙升！
开源君介绍超火的开源项目`chatgpt-on-wechat`（CoW），它结合大模型与社交、办公平台，可定制优化。能接入多平台，支持多模型，处理多模态消息，有丰富插件，还能记忆会话、定制知识库。给出安装步骤。
统计可控数据合成！新框架突破大模型数据生成局限，麦吉尔大学团队推出LLMSynthor
麦吉尔大学团队提出新方法LLMSynthor，让大模型成结构感知的数据模拟器，为隐私敏感、数据稀缺场景生成不泄密的高质量替代数据。它通过结构推理、统计对齐等步骤实现，有理论保障，多场景实测效果佳。
ICML 2025 | 注意力机制中的极大值：破解大语言模型上下文理解的关键
ICML 2025新研究揭示，在使用RoPE的现代Transformer模型里，注意力机制Q和K表示有集中极大值，V表示无此模式。研究通过实验明确极大值与上下文知识理解的联系，对模型设计、优化和量化有重要启示。
PDL 在 SGLang Kimi K3 中的应用
文章介绍 PDL 在 SGLang Kimi K3 中的应用，K3 内核优化接入 PDL 以缩短相邻内核间隙。分析 PDL 原理、在 bs=1 decode 中解决的问题，阐述计算链和通信链上的应用，还提及性能数据和实现问题。