「推理性能」共找到 3470 篇相关文章
AI自己给自己当网管，实现安全“顿悟时刻”，风险率直降9.6%
大型推理模型有安全风险，此前监督微调泛化能力有限。SafeKey团队提出创新的SafeKey框架，发现大模型信息“越狱”两大核心，通过双通路安全头和查询遮蔽建模强化模型安全，实验验证其有效性。
比自回归更灵活、比离散扩散更通用，首个纯Discrete Flow Matching多模态巨兽降临
近年来多模态大模型多采用自回归架构，推理缺乏灵活性。香港大学和华为诺亚方舟实验室研究团队提出FUDOKI，基于全新非掩码离散流匹配架构，能并行去噪、动态修正，为多模态模型开辟新路径。
开源播客生成MoonCast：让AI播客告别"机械味"，中英双语对话更自然！
MoonCast是革新性对话式语音合成模型，已开源。它借助LLM让剧本有干货与人味，采用全面规模化策略使音频合成更自然，性能在双语长对话播客上提升显著，接近真人播音效果。
开源2天斩获3K标星！开源TTS新星Chatterbox盲测击败ElevenLabs！
文本转语音（TTS）技术发展快，但达顶尖水平仍有挑战。开源TTS新星Chatterbox，开源2天冲上GitHub热榜，星标超3K。它功能亮点多，安装简单，适用于多种场景，性能超ElevenLabs。
智能投顾的大模型应用，为什么选择了“大小模型协同”？
大模型时代，金融智能投顾落地是技术与业务安全的双重挑战。北银金科高级算法专家尹辰轩表示采用“大小模型协同”架构，能在性能、准确性与合规间找平衡，还阐述了架构亮点、问题解决办法等。
谷歌AI核爆：升级全系模型，Gemini 2.5双榜登顶！所有产品用AI重做，OpenAI如何接招？
北京时间5月21日凌晨，谷歌在I/O大会发布众多更新。模型层面，为Gemini 2.5 Pro引入新推理模型和更好的2.5 Flash；谷歌搜索推出AI模式；还亮相视频模型Veo 3等，编码助手Jules公测。
JFM | 浙江大学郑畅东、谢芳芳等：基于Transformer网络的上下文学习跨翼型的主动流动控制策略
浙江大学郑畅东、谢芳芳等提出基于Transformer网络的上下文学习跨翼型主动流动控制策略。该框架引入策略改进算子，结合强化学习与气动形状优化，在翼型流动分离问题中表现出色，提升了整体性能。
21
本文聚焦vllm v1中管控模型分布式推理的核心Executor部分，介绍其4种类型及适用场景，以mp类型为例阐述Executor - Workers架构，还说明了大小数据在两者间的传输机制及原理。
OpenAI 详解 GPT-Live 架构如何实现了连续的有状态语音交互
本文是InfoQ翻译的OpenAI技术分享，详细公开GPT-Live实现连续有状态低延迟语音交互的架构设计，分享了架构拆分、协议优化、上线测试等实践经验与设计权衡。
AI开始改进“改进自己的方法”，RSI进入平方时代丨MetaRSI
本文介绍CosmosMind联合十余家海内外高校，发布全球首个统一三类RSI的元递归架构MetaRSI-v1，实现AI改进自我改进过程，在大小模型均获显著性能提升，提出统一范式与五大定律并开源项目。