「大语言模型推理」共找到 8255 篇相关文章
The Batch：827 | Claude 4 推动代码生成能力再升级
Anthropic 发布 Claude 4 Sonnet 和 Claude 4 Opus 模型，支持“推理模式”，能并行调用工具。还发布 Claude Code 编程智能体及 SDK。两款模型输入输出能力强，功能亮点多，性能表现佳，有多种使用渠道和定价。
独家｜浙大00后世界模型创业，完成新一轮亿元融资，已在多个产业领域实现交付
2021年浙大陈天润成立魔芯科技，早期围绕AI驱动3D内容生成。2024年底转向3D场景建模和世界模型，走纯隐式方法。团队年轻有优势，已产生收入，完成融资，将推新模型，目标是实现‘3D的ChatGPT时刻’。
具身智能奇点已至！超越π*0.6，极佳视界自我进化VLA大模型拿下世界第一
极佳视界具身大模型 GigaBrain-0.5M*依托世界模型实现自我进化，在多真实任务近 100% 成功，超 π*0.6 成 SOTA。其提出基于世界模型的强化学习范式，用超万小时数据训练，推动通用具身智能发展。
7B模型“情商”比肩GPT-4o，腾讯突破开放域RL难题，得分直翻5倍
腾讯混元AI数字人团队提出RLVER框架，解决开放域RL在真实交互中的‘情商’优化困境。经其训练的Qwen2.5 - 7B模型在情感对话基准得分跃升，比肩顶级商用模型，团队还有诸多启发性发现。
像开发软件一样造世界，Agent2World来了，把世界模型做成可运行的符号环境
为让模型真正“能行动”，需可执行、可验证的符号世界模型，但现有自动生成路线有困局。研究团队提出 Agent2World，经实验验证有显著效果，能稳定产出高质量符号世界模型，开辟 AI 理解现实环境新可能。
突袭Cursor，Windsurf抢发自研大模型！性能比肩Claude 3.5、但成本更低，网友好评：响应快、不废话
当地时间5月16日，Windsurf推出首个AI软件工程模型家族SWE - 1。此系列含三款模型，性能比肩Claude 3.5且成本更低。开发者试用评价不错，但也指出存在幻觉问题。Windsurf旨在提升软件开发速度，后续将持续投入。
OpenAI去年挖的坑填上了！奖励模型首现Scaling Law，1.8B给70B巨兽上了一课
全新奖励模型「POLAR」采用对比学习范式，摆脱对海量人工标注依赖，有强大Scaling潜力。它衡量训练与目标策略「距离」作奖励信号，用自动化合成数据预训练，小模型能超越大数十倍规模对手。
Cloudflare 构建了面向 LLM 的高性能基础设施
Cloudflare发布全新基础设施，可在全球边缘网络运行大型AI大语言模型。它将模型输入处理与输出生成拆分，自研Infire推理引擎，还推出Unweight模型压缩系统，分享提示词缓存优化方案。
vLLM 正式支持 PaddleOCR-VL
11月4日，vLLM项目宣布正式支持PaddleOCR-VL模型。该模型专注文档解析，参数量仅0.9B。合作降低部署门槛，推理效率更高，官方还给出部署指南和配置建议，流程快速完成可作榜样。
R1时代，RAG-Retrieval技术总结与展望~
RAG - Retrieval提供全链路RAG检索模型微调、推理及蒸馏代码，支持多模型、多loss和训练方式。还发布模型技术报告，设计评估框架，未来探索RL在检索领域应用。