「低延迟推理」共找到 2936 篇相关文章
Hugging Face 开源 HopeJR 机器臂！本周四直播带你深入技术核心
Hugging Face 的 LeRobot 项目开源了 23 自由度的 HopeJR 机械臂系统，软硬件全公开，支持遥操作。它制造门槛低，3 步可搭建，支持数据采集训练模型。本周四晚 23 点直播揭秘其技术。
叶子豪、陈天奇等人开源项目FlashInfer入选，MLSys2025最佳论文奖公布
近日，MLSys 2025公布最佳论文奖，FlashInfer等入选。FlashInfer由多机构合作发起，是灵活的LLM推理内核库，优化内存访问、有可定制模板和调度机制，性能提升显著。另一获奖论文提出Negativa - ML可消除ML框架臃肿。
大模型也需要睡觉！让AI打个盹，醒来更聪明
卡内基梅隆大学和马里兰大学研究发现，大模型处理长上下文易累傻。受人脑机制启发，设计睡眠机制，让模型在上下文窗口快满时打盹，反复咀嚼信息，压缩进长期权重。测试显示，增加“睡眠”轮次能提升深度推理表现。
刚刚，DeepSeek梁文锋入选Nature年度十大人物！被称为「科技颠覆者」
《自然》评出2025年度十大科学人物，DeepSeek梁文锋入选，被称为「科技颠覆者」。他的公司发布的R1模型功能强大、价格低廉，训练成本低，还开放权重，为研究者提供经验，其成果已融入国人生活。
The Batch: 861 | 拥有AI朋友的人感受更差
斯坦福和卡内基梅隆大学研究人员调查1131名Character.AI用户，分析其使用行为与心理健康相关性。发现依赖聊天机器人陪伴与较低幸福感相关，但未确认因果关系，开发者应关注产品负面影响。
老黄新鲜一刀，RTX 5050正式官宣
英伟达官宣RTX 5050桌面/笔记本GPU，7月上市，国内2099元起。它搭配DLSS 4技术，性能提升显著，但显存“新旧混搭”。网友大多不太买账，认为能耗高、性价比低。
把屁声发给ChatGPT，它说这是艺术
有人将屁声音效发给ChatGPT，问其音乐如何，ChatGPT一通夸赞。类似AI谄媚问题不少，还存在‘幻景推理’现象，顶尖模型无图像也能描述细节，使用AI得留个心眼。
让机器人学会手往哪儿伸、怎么操作，东大团队给了新解法
东南大学魏秀参团队提出 RAAP 解决具身智能领域可供性预测难题。它将 affordance 分解，设计互补推理机制，每任务仅需数十样本，已被 ICRA 2026 接收，实验显示其性能优于基线。
黄仁勋暴论核弹：AGI已经实现，Ilya错了，程序员有10亿
在Lex Fridman的专访中，黄仁勋抛出诸多惊人观点，如称已实现AGI，反驳Ilya“预训练触顶”言论，认为推理计算难且重要，还对未来技术、行业、职业发展等多方面进行展望。
震撼好莱坞，一天AI生成10部短片，Google神器比肩一个影视工作室
Google的AI视频神器Veo 3刷屏，使用门槛低，生成效率高，效果震撼。它能生成二次元、科幻、仙侠等多种类型短片，虽有不足，但极大促进AI视频发展，适合多行业基层人员。