「大模型推理加速」共找到 8576 篇相关文章
TEN VAD 开源：低延迟、高准确率，提升「语音 Agent」上限就靠它!
TEN-VAD是专为实时流式语音场景优化的开源模型，能解决语音交互中常见问题。它轻量级、跨平台、高性能、低延迟，获大佬背书，在多场景是必选组件，是语音交互里易被忽略却难替代的一环。
OpenAI董事长Bret Taylor：2010 年的 SaaS 应用，就是 2030 年的智能体公司
OpenAI董事长Bret Taylor在对话中称，当下处于“加10倍速的互联网泡沫”时代，AI为初创公司带来挑战巨头的机会。他直言多数B2B公司“以客户为中心”是胡扯，还为AI创业者划红线，如应用公司预训练模型是烧钱。
奥特曼爆料：GPT-5重构彻底一切！一人顶五个团队
GPT-5的发布或是一场技术变革。奥特曼在对谈中给出未来清单，谈到年轻人学习方向、创业思路等。他认为GPT-5是大飞跃，年轻人要掌握AI工具，还提出评估大模型智力新指标等。
刚刚，李飞飞空间智能新成果震撼问世！3D世界生成进入「无限探索」时代
斯坦福大学教授李飞飞创业公司 World Labs 发布限量开放测试预览版空间智能模型 Marble。输入单张图片或文本提示，它就能生成可无限探索的 3D 世界，与谷歌 Genie 有显著区别，还支持导出高斯点云等。
具身智能猛将再狂揽近6亿融资！机器人Moz1卷入办公室，全力冲刺万亿赛道
2025年具身智能赛道爆发，全球科技巨头与初创公司竞技。千寻智能获近6亿PreA+轮融资，其商用机器人Moz1实力强，自研Spirit v1与OneTwoVLA模型表现出色，以独特商业策略布局万亿市场。
GPT-5得分不到0.4！法律+金融最大规模基准：1.9万+专家评估准则
新推出的PRBench基准可测AI在金融和法律领域表现。它有19356条专家评估准则，是该领域最大公开基准。顶尖大模型在困难子集得分低，还独创经济路径分析维度，约30%任务为多轮对话，揭示了AI在专业领域的不足。
当SFT遇上RL：基于样本学习阶段的动态策略优化机制
在大模型推理能力增强研究中，SFT和RL两种后训练范式难有效融合。研究团队提出DYPO动态策略优化方法，先判断样本学习阶段再匹配优化路径，在多场景实验中表现出色，不过有实验边界。
Lyft 使用 AI 和人机协同扩展了全球范围内的本地化能力
Lyft 实现 AI 驱动的本地化系统，加速应用与网页内容翻译。新系统结合大语言模型、自动评估与人工审核，将翻译周期从数天缩至分钟级，兼顾质量与适配性，还分批量和实时翻译架构处理不同场景。
Qwen-Image-2.0: 字字清晰，张张细腻
阿里云推出Qwen-Image-2.0图像生成基础模型，具专业文字渲染、细腻真实质感等特色。在AI Arena盲测中表现优越，能精准生成复杂内容，文字渲染有准、多、美、真、齐特点，图像编辑能力也得到增强。
SGLang JIT Kernel 介绍
文章介绍SGLang JIT Kernel，此前开发CUDA Kernel流程繁琐、编译时间长，现基于TVM - FFI探索JIT开发加速迭代。文中梳理其机制、抽象及新增Kernel流程，还给出环境设置、目录结构等内容，并以实例说明开发过程。