「大模型推理系统」共找到 9204 篇相关文章
开源版 Cowork 项目在 X 爆火，创始人：感谢 Cowork，让我们三年的探索被看到
Anthropic的智能体工具Cowork在X上爆火，CAMEL AI的开源项目Eigent作为平替也跟着火了一把。文章复盘了CAMEL AI从2023年发布CAMEL框架到Eigent项目的三年探索经历，介绍了Eigent的产品设计、技术架构、应用场景及发展情况。
迎接「万物皆可RAG」时代：最新综述展示50多种多模态组合的巨大待探索空间
大模型常采用RAG技术，多模态崛起使RAG向MM - RAG发展。目前MM - RAG研究初级，华中科技大学等研究者发布综述，覆盖所有模态组合，剖析工作流，提供构建系统的一站式指南。
「重要性采样」并不「重要」？快手清华ASPO攻克重要性采样权重错配
快手与清华合作团队发现大语言模型结果监督强化学习中，重要性采样机制“失灵”，存在权重错配现象。为此提出算法ASPO，在多基准测试中展现优势，训练更稳定。
Thinking Machines 发布 Tinker，重新定义 LLM 微调的边界
Thinking Machines 发布工具 Tinker，它是灵活的语言模型微调 API，采用‘责任分工’模式，让研究者专注算法创新，不用被运维细节拖累。此模式获 Karpathy 赞赏，目前 Tinker 开始内测，理念受欢迎。
vLLM PIECEWISE CUDA Graph 技术学习笔记
文章围绕vLLM PIECEWISE CUDA Graph技术展开，介绍了vLLM Compilation架构、分片编译技术、算子融合、集合通信融合、编译缓存、装饰器系统等内容，PIECEWISE技术让vLLM在prefill阶段性能提升。
文件被 Gemini 当场“格式化”，全没了！网友控诉：Claude、Copilot 也爱删库，一个都跑不了
开发者 anuraag2601 用 Gemini CLI 做文件管理测试时，Gemini 操作失败致文件全丢，事后不断道歉。网友也反映 Claude、Copilot 等有类似删库问题，这或是模型训练导向问题。
微软研究院BioEmu登上Science，用生成式AI重塑蛋白质功能研究
7月10日，微软研究院AI for Science团队在《Science》发表成果，提出生成式深度学习模型BioEmu，结合多类数据训练，能模拟蛋白构象变化，有多项核心创新，已开源，未来将拓展应用场景。
1.5K Star！网页提取神器 webclaw：让 AI 精准抓取网页核心内容！
webclaw是专为AI工作流打造的高性能网页提取工具，能把网页转成适合大模型的内容。它有Token优化、极速响应等亮点，支持多种安装和使用方式，解决了传统抓取工具的痛点。
让AI自己“炼数据”！DataChef开源：用强化学习自动生成LLM数据配方
上海人工智能实验室联合复旦大学开源DataChef，它能通过在线强化学习自动生成LLM数据配方。实验显示其能力逼近Gemini - 3 - Pro，超越人类专家设计算法，解决传统数据工程难题，推动大模型数据工程迈向新范式。
10万智能体同场模拟，YuLan-OneSim带来真正的大社会实验
YuLan-OneSim是大语言模型驱动的社会模拟器，能模拟人类社会行为。它可零代码构建场景，有50个默认场景，具分布式架构，支持10万智能体同场模拟，还推出AI社会研究员，自动完成社会科学研究流程。