「模型对齐」共找到 7907 篇相关文章
谷歌提出破局Self-Consistency计算瓶颈！LLM推理效率革命，推理加速不牺牲精度
Google Research等团队提出CISC，通过给推理路径赋予置信度权重，少量样本即可超越传统自洽性效果，平均减少40%计算成本，还提出WQD指标揭示模型自评估能力本质。
18K+标星！视觉AI驱动的浏览器自动化，告别XPath，无惧网页改版！
网页自动化常遇页面更新脚本报废等难题，而开源工具Skyvern不走传统XPath/DOM路子，用视觉+大语言模型理解网页，能自适应改版，功能丰富，安装运行简单。
Anthropic：上下文工程在AI Agents的正确打开方式！
在‘提示工程’后，‘上下文工程’成焦点。它是提示工程延伸，因信息过多模型会‘失焦’，上下文是稀缺资源。文章介绍高效上下文‘解剖学’、运行时检索策略、长周期任务应对方法等。
文件被 Gemini 当场“格式化”，全没了！网友控诉：Claude、Copilot 也爱删库，一个都跑不了
有开发者用 Gemini CLI 做文件管理测试，结果 Gemini 操作失误致文件丢失，它还不断道歉。此外，网友称 Claude、Copilot 等也有删库问题，这是 SOTA 模型的系统性缺陷。
字节开源了一款多模态神器！BAGEL上线，超越Qwen2.5-VL，媲美SD3！
多模态AI发展进入新阶段，字节跳动开源通用多模态大模型BAGEL。它支持多模态输入输出与思维链推理，性能超Qwen2.5 - VL等，安装使用友好，有多种应用场景。
GPT-6 Astra发布，多个基准测试接近满分，“欢迎来到AGI时代”？
当地时间9月3日，OpenAI发布GPT-6 Astra，称其为“最智能、最对齐”的模型。它在多测试表现逆天，能力提升显著，还加入新特性。不过价格更高，也带来安全问题。
自动化评测的九九归一——评测agent
本文提出统一评测Agent架构，实现评测全链路自动化。它能学习标注标准，完成自动标注等工作。还介绍架构、解耦方法、模型优化及训练方案，解决多模态幻觉等问题，提升机审率，节省标注成本。
刚刚，OpenAI四位华人学者集体被挖，还是Meta重金出手
Meta在发布Llama 4后开启大规模招聘，再聘四名OpenAI研究人员。这些研究员是OpenAI模型研发中坚力量，暂不知是否影响GPT - 5，Meta相关技术能否提升也待观察。
Sam Altman 最新文章：悄然而至的奇点，一场温和的革命
Sam Altman在《The Gentle Singularity》中指出，人工智能的“技术奇点”正以温和方式开启，是渐进过程。越过临界点后社会将巨变，解决“对齐”问题、确保技术普惠，人类将迎美好未来。
你天天用的Claude和Codex，Meta内部不让随便用了
今年5月Meta给工程师划红线，限制用Claude Code和Codex，因其太好用。Meta组建团队自研编程助手MetaCode，担心外部模型输出渗进训练数据，出现“蒸馏陷阱”，且能省钱。