「大模型推理系统」共找到 9049 篇相关文章
ACL 2025 | 让小说角色 「活」起来！复旦BookWorld打造沉浸式小说世界模拟系统
复旦大学团队主导的BookWorld系统，是ACL 2025论文成果。它能从小说提取数据构建AI世界，让角色AI互动创作故事。系统有自主和干预模式，实验表现出色，未来可成互动娱乐平台。
登顶 Arena！MiniMax 最新 Speech-02 模型屠榜：超越OpenAI、ElevenLabs，人声相似度99%
近期TTS模型领域发展火热，众多机构纷纷发力。MiniMax推出的Speech - 02模型登顶Arena榜单，在字错率和相似度等指标上表现出色，具备超拟人、个性化、多样性特点，性价比高，还创新架构解决了现有痛点。
如何在24GB显存里，塞下一个万亿参数的巨兽？KTransformers入选顶会SOSP
清华大学与趋境科技联合研发的KTransformers系统，可让消费级显卡跑万亿级参数模型，其论文入选SOSP 2025。该系统解决MoE模型本地部署难题，技术创新多，还与SGLang合作，提升硬件利用率。
Claude推出多智能体代码审查系统：Anthropic内部同款，接管PR深度抓Bug
Anthropic为Claude Code引入代码审查系统，复刻内部审查机制，调度多智能体揪深层Bug。该功能面向团队和企业版用户预览，审查更彻底，虽成本高但有效提升审查质量，还能自定义规则、管控成本。
北大腾讯突破奖励模型瓶颈！让AI理解人类偏好，泛化能力比肩GPT-4.1
北京大学知识计算实验室联合腾讯等机构提出RewardAnything，突破奖励模型瓶颈。它让奖励模型理解自然语言评判原则，降低成本，泛化能力比肩GPT - 4.1，还能用于定制AI行为模式。
如何选择最佳多模态大模型压缩方案？哈工大、度小满开源EFFIVLM-BENCH基准测试框架
金融科技智能化转型中，LVLM部署受算力瓶颈制约。哈工大与度小满联合开源EFFIVLM - BENCH基准测试框架，能为多模态大模型压缩方案出具‘体检报告’，还揭示LVLM加速复杂性，推动技术发展。
85倍速度碾压：苹果开源FastVLM，能在iphone直接运行的视觉语言模型
苹果开源能在 iPhone 上运行的视觉语言模型 FastVLM，代码仓库含 iOS/macOS 演示应用。它速度快，首个 token 输出速度较同类模型提升 85 倍，还兼容主流 LLM，适合边缘设备等场景。
你永远叫不醒装睡的大模型！多轮对话全军覆没，性能暴跌39%
研究人员进行超20万次模拟实验，耗资5000美元，评估大模型在多轮对话中的表现。结果显示，大模型在多轮对话中性能明显低于单轮对话，平均下降39%，还出现“对话迷失”现象。
高考数学斩获139分！小米7B模型比肩Qwen3-235B、OpenAI o3
2025高考落下帷幕，人工智能领域多家大模型挑战数学卷。小米7B参数的MiMo - VL模型考139分，比肩Qwen3 - 235B、OpenAI o3，还在多方面表现出色，技术报告等已开源。
以星为舵：LLM的Post-Train与Rest-Time奖励学习综述
这篇论文提出奖励信号像AI的“导航星”，引导模型优化行为。介绍奖励学习概念、来源、形式和策略，阐述其贯穿LLM生命周期的三个阶段，探讨奖励模型设计选择，还提及实际应用、挑战与未来方向。