「推理数据生成」共找到 5751 篇相关文章
腾讯混元AI Infra核心技术重磅开源：推理吞吐提升30%！
腾讯混元AI Infra团队开源生产级高性能LLM推理核心算子库HPC-Ops，基于生产环境痛点开发，降低底层算子开发门槛，实现显著性能突破。在真实场景下，混元、DeepSeek模型推理QPM提升，单算子性能也超越主流算子库。
OpenAI版抖音要来了！Sora 2加持，只能发AI生成视频
OpenAI正为视频生成模型Sora 2推独立社交应用，形态似TikTok，内容须AI生成，不可上传外部媒体。有独特身份验证功能，已内部测试获积极反馈，将与Meta、Google、TikTok竞争。
Google 最新的 Gemini 2.5 Flash-Lite 原型能动态生成软件界面
Google最新的Gemini 2.5 Flash - Lite原型能动态生成软件界面。它打破传统预设框架，通过‘UI宪法’等设计保证风格与适应性，响应速度快，还解决了生成界面可能带来的混乱问题，或重塑人机关系。
全球首个，连续时间具身世界模型！任意帧率自由生成
来自清华AIR与UC Berkeley BAIR的团队提出全球首个连续时间具身世界模型ODEWorld。它学习世界在每个时刻的变化方向与速度，能任意帧率自由生成，统一了离散模型分散的生成能力。
超越VLA与世界模型，银河通用发布LDA，全谱系数据跑通Scaling Law
近期具身智能领域竞争激烈，银河通用联合多机构发布 LDA-1B 模型，能统一利用各类具身数据。它在基准测试中表现出色，代码已开源，还解决了数据格式、质量等问题，实战效果也很突出。
生产级Prompt自动化推理评估A/B实验结果的工程实践
本文围绕生产级Prompt自动化推理评估A/B实验结果展开，介绍系统背景与痛点，展示主Prompt和决策树，用deepseek - r1等模型推理。通过分析Bad Cases优化Prompt，总结设计原则和迭代方法，还给出通用启示与展望。
Mamba核心作者新作：取代DeepSeek在用的注意力机制，专为推理打造
Mamba核心作者Tri Dao团队提出GTA和GLA两种专为推理定制的注意力机制，在减少KV缓存用量、保持模型质量的同时，显著提升解码速度，优化长上下文推理能力。
静态稀疏已死：Flux Attention 开启长文本 LLM 自适应推理新时代
文章指出长上下文LLM高效推理面临性能与效率难题，先介绍Elastic Attention打破静态稀疏桎梏，后重点阐述全新的Flux Attention，它将动态稀疏注意力范式升级为层级别路由，解决了算法与硬件的矛盾，在多方面实现突破。
用 AI Coding 工具生成 60 万字奇幻世界设定的实践记录
作者先尝试用 Python/C# 编排 LLM 调用生成小说世界设定，遇节点信息查看、输出形态等问题。后用 AI Coding CLI，经搭建骨架、基础层展开等阶段生成 60 万字奇幻世界设定，还基于此创作叙事。
视频生成太慢？英伟达、谢赛宁等发布TMD框架，实现70倍加速
大规模视频扩散模型采样效率低，应用受限。英伟达联合谢赛宁等提出TMD框架，将大型视频扩散模型蒸馏为少步生成器。实验显示，TMD能实现超70倍加速，质量损失小，用户也更偏好其生成的视频。