「大语言模型推理」共找到 8425 篇相关文章
叶子豪、陈天奇等人开源项目FlashInfer入选，MLSys2025最佳论文奖公布
近日，MLSys 2025公布最佳论文奖，FlashInfer等入选。FlashInfer由多机构合作发起，是灵活的LLM推理内核库，优化内存访问、有可定制模板和调度机制，性能提升显著。另一获奖论文提出Negativa - ML可消除ML框架臃肿。
Karpathy加入Anthropic要做的事，被Google提前做了
Karpathy官宣加入Anthropic要组建新团队‘用Claude加速预训练研究’，话音未落，Google&Meta等发论文‘LLMs Improving LLMs’验证了该思路。论文让Claude Code搜索最优推理策略，结果全面超越人类设计。
装机量超2000万、全球主流GPU与AI框架“开箱即用”！OpenCloudOS成AI时代优先选项
在大模型训练迭代快、算力需求高但 GPU 利用率低、生态碎片化的背景下，2025 OpenCloudOS 操作系统生态大会举办。OpenCloudOS 围绕 AI 升级技术，构建能力闭环，还发布智能基座，降低产业链技术摩擦。
6.2k 谷歌开源LangExtract，主打精确溯源的长文档抽取
谷歌开源 Python 库 LangExtract，能让 LLM 依用户指令从非结构化文档提取结构化信息。它可处理临床记录等，具备精确源接地、可靠输出等特性，支持多模型，无需微调，适用于各领域。
1/15成本，实现AI水印新SOTA | 南洋理工大学&A*STAR
给AI生成作品打水印成行业共识，但传统方法有短板。南洋理工大学等机构研究人员提出局部鲁棒图像水印方法MaskMark，成本仅为Meta模型WAM的1/15，在多任务中表现优异。
14 岁清华天才、普林斯顿最年轻终身教授王梦迪：AI 尚未发现新的基础科学｜附完整演讲
本文整理了普林斯顿大学终身教授王梦迪在2026外滩大会的演讲，分析当前大模型在科学发现上的核心局限，提出AI实现自主科学发现的路径，分享了团队的科研实践。
这是我见过最全的免费 LLM API 指南，正规合法、开箱即用！
个人开发者在使用LLM API时面临成本高、资源杂乱、稳定性差等问题。Github上项目`free-llm-api-resources`整合全网正规免费资源，排除不合规服务，介绍主流模型、限制说明等，值得收藏。
独家｜前蔚来AI平台负责人白宇利创立「补天石科技」，聚焦具身数据 Infra 方向
前蔚来AI平台负责人白宇利创立上海补天石科技，聚焦具身数据Infra方向。该公司为机器人模型训练提供高效工程体系，首轮融资由红杉领投，团队正处早期组建阶段。
76.5k+ star，逆天终端神器！
文章介绍开源工具 `fzf`，它是用 Go 语言编写的命令行模糊查找器，可在多系统使用。有交互式模糊过滤等特性，支持多平台安装，还能与 Shell、编辑器集成，提升命令行体验。
英伟达让机器人「做梦学习」，靠梦境实现真·从0泛化
英伟达推出DreamGen项目，让机器人‘做梦学习’。它利用视频世界模型生成神经轨迹，仅少量现实视频就能让机器人学会新任务，实现从0泛化，还将助力GR00T - Dreams发展。