「强化对齐」共找到 888 篇相关文章
AI模型守法率提升11%，港科大首次用法案构建安全benchmark
香港科技大学KnowComp实验室从法律合规视角研究LLM安全，提出「安全合规」新范式。基于法律条文构建benchmark，用GRPO微调Qwen3 - 8B得推理模型，在新benchmark测试中性能提升显著。
RL 将如何提高具身大模型 VLA 泛化性？清华大学团队NeurIPS 2025文章分析 RL 与 SFT 泛化性差异
清华大学团队在NeurIPS 2025发表文章，揭示强化学习（RL）提升具身大模型VLA泛化能力的优势，对比其与SFT差异，还提出评测基准和训练方法，为VLA训练提供新方向。
亚马逊“盲眼”机器人30秒跑酷首秀惊艳！华人学者领衔
亚马逊机器人团队FAR发布人形机器人研究成果OmniRetarget，它能让强化学习策略在复杂环境学技能并零样本迁移。该成果通过交互网格建模关系，经实验验证优势明显，背后团队由华人学者领衔。
奥特曼：感受不到GPT-5变强，是因为你还不够「专业」
GPT-5发布后口碑不佳，直播事故、网友吐槽、专家唱衰不断，有人喊出‘AI第二次寒冬要来了’。但奥特曼认为这是节奏和期待错位，GPT-5在科研等高阶领域有提升，技术范式也有转变，且OpenAI仍看重规模。
Agentic Enterprise：生成式软件重新定义企业形态｜AGIX PM Notes
文章指出软件正从静态代码集合变为“Living Software”，企业是其理想训练环境。还提及市场资金流向、多起企业投资合作事件，如英伟达投资英特尔、OpenAI租服务器等，最后介绍了ETF流动性相关知识。
推理能力再突破！蚂蚁 | 提出Agentic Deep Research新范式，可信度同步增加
尽管LLM能力提升，但复杂任务表现受静态知识限制。业界提出Agentic Deep Research系统，现存系统训练有梯度冲突和奖励稀疏问题。蚂蚁团队提出Atom - Searcher，创新推理范式，构建细粒度奖励，结合奖励训练，实验效果佳。
ChatGPT到底学了多少「污言秽语」？清华团队首提大语言模型中文语料污染治理技术
清华等团队研究发现，先进ChatGPT系列模型中文词表污染达46.6%，含色情、赌博等词元。团队定义分类中文污染词，构建识别模型，还能由词表污染估计数据污染，为语料治理提供方案。
字节Seed开源长线记忆多模态Agent，像人一样能听会看
字节Seed发布全新多模态智能体框架M3 - Agent，能听会看、有长期记忆且免费开源。团队还开发新长视频问答基准M3 - Bench并开源。实验显示，M3 - Agent在多基准测试中显著优于基线模型。
迈向可信AI：LLM幻觉的分析与优化
随着LLM广泛应用，其幻觉现象成AI落地关键挑战。文章分析LLM幻觉成因、优缺点，结合RAG、SFT、强化学习等技术，提出多维度优化方案，为构建可信大模型应用提供理论与实践路径。
WRC 观察丨VLA 叙事能带来融资，但不能带来收入
本文聚焦2025年WRC展会，揭示具身智能行业现状。厂商展品增多强化‘量产元年’信号，但销售焦虑弥漫，包括销售人员扩招、渠道搭建难等。还分析不同类型机器人销售情况、应用场景及市场前景。