「强化对齐」共找到 912 篇相关文章
Anthropic工程师都离不开！深夜随手撸出的开源神器，被OpenAl高价收购，23人创业逆袭
昨日 OpenAI 宣布收购 Promptfoo 保障 AI 智能体安全，技术将整合进 OpenAI Frontier。该工具由 Discord 工程师开发，受诸多企业和开发者欢迎。收购后它将保持开源，继续支持现有客户。
几千亿美元远远不够！黄仁勋亲笔长文：AI 是人类历史上最大的基建浪潮
英伟达CEO黄仁勋发布长文，指出AI是关键基础设施，运行依托硬件、能源与经济规律。AI可解构为五层架构，目前投入仅数千亿美元，未来还有数万亿规模待建，正演变成最大基建运动。
打破瓶颈，让RAG学会思考：中科大、智源等发布推理检索框架BGE-Reasoner
人工智能浪潮下，推理密集型信息检索是RAG和AI Agent技术发展瓶颈。中科大、智源等机构联合研发推理检索框架BGE - Reasoner，在BRIGHT基准测试中刷新纪录，还将开放相关代码等推动研究。
Hugging Face 推出九大 AI 课程，免费、全面【收藏】
Hugging Face悄悄上线一批免费AI课程，还带认证证书。课程从大语言模型到扩散模型，从计算机视觉到游戏AI，覆盖面广。完成课程可拿证书，还能在平台分享成果，是学习AI的好机会。
谷歌提出破局Self-Consistency计算瓶颈！LLM推理效率革命，推理加速不牺牲精度
Google Research等团队提出CISC，通过给推理路径赋予置信度权重，少量样本即可超越传统自洽性效果，平均减少40%计算成本，还提出WQD指标揭示模型自评估能力本质。
ICLR-26腾讯混元：Agent是强大的，但用户是狂野的
现有LLM工具使用基准测试场景理想化，忽视真实用户行为复杂性。腾讯提出WildToolBench，基于真实用户行为构建测试集，对58个模型评估，发现模型准确率低，揭示LLM在真实场景下能力缺口，为模型优化指明方向。
字节豆包2.0重磅发布！成本暴降一个数量级，Seed团队揭秘视频Agent竞争关键
今日字节发布豆包大模型2.0系列，围绕大规模生产环境需求优化，有Pro、Lite、Mini和Code四款模型。其Token单价低一个数量级，多模态理解能力升级，未来将围绕长链路智能系统构建发展。
华为发布业界首个扩散语言模型Agent，部分场景提速8倍！
华为等团队研究发现，把Agent“底座”换成扩散式大模型（DLLM），执行速度提升30%以上，部分复杂任务效率达传统AR模型8倍。其优势源于生成范式，可重塑Agent设计。
Agentic Deep Research新范式，推理能力再突破，可信度增加，蚂蚁安全团队出品
尽管LLM能力提升，但在复杂任务上受静态内部知识限制。业界提出Agentic Deep Research系统，不过现存系统有梯度冲突和奖励稀疏问题。蚂蚁安全团队提出Atom - Searcher，解决上述问题，实验效果良好。
Grok 4.7来了！网友实测先把SpaceX玩坏了，大火箭走起
xAI发布新版大模型Grok 4.7，上下文扩展至50万Token，重点提升编码、Agent及复杂长任务能力，多项专业测试成绩提升明显，发布后网友开启花式实测整活。