多模型推理」共找到 9988 篇相关文章

新闻资讯7

大厂都在卷千亿大模型,这家深圳企业却专啃“最后一公里”

在CITE 2026上,佑泰创始人张希立分享企业战略。佑泰与大厂不同,走差异化路径,聚焦算力落地“毛细血管”,产品覆盖应用方向,还将转型提供完整算力服务,积极布局信创,面对成本压力坚守契约。

芯师爷
开源动态8

腾讯太极团队实现DeepSeek模型业内H20最高性能15800+ tokens/s

腾讯太极团队揭秘实现DeepSeek模型15800+ tokens/s业内H20最高性能的方法,通过PD分离、层MTP优化等全栈优化方法论,还介绍机性能优化方案,后续预计性能突破20000 tokens/s。

腾讯技术工程
新闻资讯7

抢天才还是拼算力?前 Llama 推理负责人详解 AI 的真实天花板

前 Llama 推理负责人 Ross Taylor 在播客访谈中指出,AI 竞赛中的混乱和挖角是噪声,最终会被指数级算力淹没。他阐释了算力指数曲线决定竞赛天花板,强调系统性实验、高质量评估的重要性。

机器之心
新闻资讯7

推理之父走了!OpenAI七年元老离职:有些研究这里没法做

新年伊始,OpenAI研发副总裁Jerry Tworek离职,他是编程和两大核心技术路线奠基者,攻克LLM编程和复杂推理商业化难题。他称想探索在OpenAI难开展的研究。此前已有位核心人才出走,OpenAI或因商业化与安全问题留不住人。

新智元
新闻资讯8

官宣!前 OpenAI 华人科学家姚顺雨加入腾讯,大模型“系统战”开启!

12月17日消息,前OpenAI科学家姚顺雨加盟腾讯,任首席AI科学家等职。他是AI Agent与大模型推理领军人物,其加入是腾讯AI补强。腾讯还新成立三部门,标志战略向系统化工程建设进阶,混元也有不错表现。

AI科技大本营
算法论文8

4D通用世界模型!中科院NeoVerse用百万单目视频直接构建

中国科学院自动化研究所与CreateAI团队构建4D世界模型NeoVerse,它用全新端到端架构,从单目视频高效重建4D高斯泼溅,模拟成像退化提升生成鲁棒性,在任务表现卓越。

AIGC开放社区
开源动态8

不会拍照有招了!北大彭宇新团队开源首个美学指导大模型Venus,帮你拍好照|CVPR 2026

北大彭宇新教授团队针对现有大模型在摄影指导上的不足,定义美学指导任务,构建数据集AesGuide,提出美学指导大模型Venus。相关论文被CVPR 2026接收并已开源,Venus在项评测中优于现有方法。

量子位
新闻资讯7

AI开源狂飙,OpenAI们慌了!GenAI大洗牌,2025趋势深度解读

2025年,ChatGPT仍领跑,但DeepSeek、Qwen等开源模型加速追赶。独立机构报告总结六大趋势,涵盖技术突破与市场格局演变,如推理模型实用化、MoE架构普及等,开源势力挑战闭源巨头。

新智元
算法论文8

一种基于滑动层合并的高效深度修剪大模型的方法

文章指出深度修剪可加快推理速度,但直接丢层会降低性能。为此提出滑动层合并法,根据相似度阈值融合连续层,简化结构且保持性能。实验显示该方法优于现有技术,还揭示了与宽度修剪结合的潜力。

机器学习AI算法工程
推荐文章8

Kimi 大模型训推混部的稳定性与资源优化实战

月之暗面系统工程师黄维啸在 QCon 大会分享 Kimi 大模型训推混部实践。介绍了训推集群挑战,如故障、资源利用低等,还阐述了全链路稳定性提升、资源高效利用及强化学习混合部署等方案。

InfoQ