「性能成本平衡」共找到 3412 篇相关文章
EMNLP 2025 Oral｜检索增强 + 两阶段微调：剑桥提出有害内容检测大模型RA-HMD，性能SOTA
多模态有害信息检测是网络内容安全治理的重难点，多模态模型在有害内容检测上有瓶颈。剑桥大学团队提出RA - HMD框架，通过两阶段微调与结构增强，结合检索增强，提升检测性能，被EMNLP 2025接收。
国内首次！8.9毫秒推理速度破纪录，1元打穿百万token
在2025人工智能计算大会上，浪潮信息发布元脑SD200和元脑HC1000两款AI服务器。前者让DeepSeek R1的Token生成速度达8.9毫秒，后者将推理成本降至1元/百万Token，解决了AI智能体速度与成本难题。
大模型能否为不同硬件平台生成高性能内核？南大、浙大提出跨平台内核生成评测框架MultiKernelBench
深度学习计算依赖底层内核，当前多由开发者手工编写。南大、浙大推出开源评测框架MultiKernelBench，打破现有评测基准局限，构建模块化评测体系，多模型实测，还指出LLM短板并明确未来方向。
蚂蚁dInfer框架，让扩散大语言模型推理速度再飙10倍，相同模型性能下超越自回归模型
蚂蚁开源dInfer框架，联合名校发论文阐述实现细节。它解决扩散模型推理难题，提出创新算法和系统优化策略，实验显示其推理速度远超Fast - dLLM和自回归模型标杆vLLM，代码已开源。
一次汇报，资源投入暴涨数十倍：快手大模型推荐以 1/12 成本突围，技术负责人亲历的革新故事
InfoQ 专访快手科技副总裁周国睿，他分享了快手大模型推荐技术投入挑战、决策过程等。如汇报后资源投入涨数十倍，以 1/12 成本突围。还阐述推荐系统变革、技术押注及未来推荐系统突破点等观点。
阿里达摩院开源具身大脑基模：3B激活参数性能超越72B，转身就忘事的机器人有救了
阿里达摩院开源RynnBrain具身大脑基础模型，全系列7个。它是业界首个有 时空记忆的模型，在20项具身Benchmark上超顶尖模型。具小而美优势，训练用自研架构提效，数据丰富，输入输出灵活。
苏妈和李飞飞炸场CES！AMD AI全栈野心显露：从云端到个人PC，AI芯片性能四年要飙1000倍
今年 CES 上 AMD 专场演讲亮点多。苏姿丰称未来五年50亿人每天用 AI；李飞飞和她探讨空间智能与世界模型；Helios 平台受关注，MI455 GPU 解决内存墙；Ryzen AI 推动 AI 下放到本地。
R-HORIZON：长程推理时代来临，复旦NLP&美团LongCat重磅发布LRMs能力边界探测新范式
复旦大学与美团LongCat Team联合推出R - HORIZON，它是首个系统性评估与增强LRMs长链推理能力的方法与基准。提出Query Composition方法构建评测基准和训练数据，评测发现主流模型长链推理性能断崖式下降，还分析出三大瓶颈，训练后模型性能双重提升。
GitHub 8k star！AI Gateway 如何帮你3行代码接入1600+ LLM，实现成本、可靠性与安全三赢？
Portkey AI Gateway是面向生产环境的开源AI Gateway，支持超1600款模型，通过1个API接口实现快速、可靠、安全的模型路由。它能解决产品开发和使用中的痛点，有统一API接口等核心功能。
AI在线强化学习“边做边学”，斯坦福团队让7B小模型性能飙升，甚至超越GPT-4o
斯坦福等团队提出新范式AgentFlow，由四个智能体组成，用在线强化学习持续提升智能体系统推理能力。以Qwen - 2.5 - 7B - Instruct为基座模型的它在多基准测试表现突出，甚至超越GPT - 4o等大模型。