「AI对齐训练」共找到 11229 篇相关文章
4B模型幻觉抑制能力超越GPT-5，CMU等提出行为校准强化学习新方法
大语言模型幻觉问题是部署难题，CMU等研究人员提出行为校准强化学习新方法，重新设计奖励函数。经训练，40亿参数模型幻觉抑制力超GPT - 5，实验证明该方法效果显著，还带来理论洞察。
大模型学会拖进度条看视频了！阿里新研究让视频推理告别脑补，实现证据链思考 | ICLR 2026
阿里巴巴未来生活实验室团队解决多模态大模型视频推理难题，推出ReWatch数据集和ReWatch - R1模型。数据集克服现有训练数据痛点，模型用SFT + RL范式及创新奖励机制，实验成绩SOTA。
谷歌最新版「深度研究」反击GPT-5.2
GPT - 5.2发布前，谷歌推出新版Gemini Deep Research Agent，基于Gemini 3 Pro构建，功能强大。还开源DeepSearchQA，推出交互API。此外，DeepMind与英国政府合作，在城市规划、科学研究、网络安全等多领域应用AI技术。
Python只是前戏，JVM才是正餐！Eclipse开源新方案，在K8s上不换栈搞定Agent
近期，Eclipse 基金会在开源平台 Eclipse LMOS 推出‘代理定义语言’（ADL）。LMOS 项目旨在用统一、开放方式重构企业级 AI 代理开发与运维链路，对标专有平台与 Python 技术栈，避免企业‘推倒重来’。
我做内容的10条私藏方法论，今天都拿出来分享给你们了。
数字生命卡兹克作为AI领域小有名气的创作者，分享10条内容创作方法论。包括心法上强调活人感、真诚和价值观；战略上重视选题、专业性；技法上用故事思维创作；修炼上关注评论区和数据分析。
英伟达下一代GPU登场，Rubin CPX一次推理数百万Token，网友：这是头野兽
在周二的AI基础设施峰会上，英伟达宣布推出专为超100万token长上下文推理设计的Rubin CPX GPU。它将与其他产品组成新平台，性能卓越，还能复用现有平台，预计2026年底上市。
好奇心之旅：Cursor代码库索引机制的学习笔记
作者作为高德信息工程团队AI先锋队一员，日常用Cursor开发，因好奇其代码库索引机制展开探索。介绍了Cursor索引工作流程、隐私安全等，还研究Merkle树、turbopuffer向量库及开源方案Continue。
半导体封测：高速增长的背后
近期国内半导体封测企业披露财报，行业发展迅猛，多数厂商业绩增长。汽车电子和AI成关键驱动力，先进封装重要性凸显，多数企业在该领域布局。不过部分厂商出现增收不增利情况。
Claude：Profile and Preference
文章借与Claude对话，探讨Profile和Preference概念，分析其区别联系，指出AI时代借助大模型理解用户的变化，还谈及数据源、实时个性化、偶然性、广告变革等问题，最后Claude为作者生成简易画像。
DeepSeek-R1发布100天后：全面复盘推理大模型复现研究及未来！
推理语言模型（RLMs）发展显著，DeepSeek - R1发布引发广泛影响且未完全开源。MiroMind等总结其复现研究，关注SFT和RLVR方向，介绍数据构建、方法设计、训练过程细节及实验关键发现。