「推理优化与部署」共找到 3519 篇相关文章
清华开源了一个真的会和你互动的AI课堂,同学老师都是AI,500学生已经验证....
清华大学开源OpenMAIC,这是多智能体驱动的交互式AI课堂。它模拟真实课堂,有多种场景,内置自适应引擎。经500学生验证,数据佳。支持多模型,部署方式多,还集成OpenClaw。
截击英伟达!OpenClaw狂吞Token,北大系芯片黑马剑指2000 Tokens/s
NVIDIA GTC 2026前夕,AI推理赛道竞争激烈。北大系寒序科技宣布融资,首颗样片测试跑通,单位面积带宽达100GB/s/mm²,下一代「MRAM+SRAM」架构目标2000 Tokens/s,挑战英伟达。
一个现代化AI 内容聚合平台,集成了 AI 报告生成、飞书机器人推送、多源内容聚合等高级功能
RSS - AIGC 是现代化 RSS 订阅与 AI 内容聚合平台,有智能内容聚合、AI 内容加工等核心能力。具备 RSS 订阅管理、内容聚合等功能,还介绍了环境要求、配置说明及部署指南。
tokens烧钱太快?试试这个四层模型组合
ClaudeCode等智能体兴起,开发者面临tokens不够用、主流模型降智问题。网络给出多模型策略缓解,网友将2026年主流模型分四档,还介绍了实际路由策略、部署建议,指出单模型依赖危险。
HOIDiNi:一句话驱动虚拟人高精度操作物体
特拉维夫大学提出HOIDiNi,这是文本驱动的扩散框架,用于生成人体 - 物体交互动作。它引入扩散噪声优化,能兼顾真实感与物理正确性。不过它泛化能力待拓展、生成速度慢,未来需提升效率等。
DeepSeek开源的文件系统,是如何提升大模型效率的?
2月28日,DeepSeek开源高性能分布式文件系统3FS以解决人工智能训练和推理挑战。介绍了分布式文件系统优势,深入解读3FS的组件、CRAQ协议等,还探讨其与其他系统差异及性能相关问题。
Pony Alpha新模型炸场!全球「猜爹大赛」开启
2月7日深夜,OpenRouter悄悄上线匿名模型Pony Alpha,其编程、推理等体验出色,外网瞬间疯传。全球开启‘猜爹大赛’,Claude、DeepSeek、Grok、GLM各派开吵,还凸显了‘匿名盲测式发布’新打法。
AI五小时发现MoE新算法,比人类算法快5倍,成本狂降26%
加州大学伯克利分校团队提出ADRS系统研究方法,基于OpenEvolve框架优化算法。以EPLB算法为例,新算法比人类算法快5倍,成本降26%,且Nature也报道过AI创造新算法新闻。
免训练加速61倍!陈怡然团队新作DPad:仅关注「彩票token」
杜克大学陈怡然团队新作DPad,发现扩散大语言模型关注少量「中奖」token,推理速度可提61 - 97倍,还增强模型语境学习能力。DPad免训练零成本挑关键信息,实现「少算多准」。
RL训练一层就够了!单层RL超越全参数训练,跨任务跨模型跨算法全部验证
明尼苏达大学、北大和亚马逊团队研究发现,RL收益集中在中间层,训练单层可超全参数训练。他们提出层贡献度指标,经多模型、算法、任务实验验证,还给出三种训练优化策略。