「大模型对齐」共找到 9310 篇相关文章
说一个反常识的真相，Agent如今在真实工作场景的成功率依然很低。
作者有感于AI在真实工作场景评测的稀缺性，以阿里国际站RealReplicaBench评测集为例，介绍电商场景任务，发现多数模型成功率低，其他领域类似，呼吁厂商努力，作者也计划自跑评测更新排名。
爆火的 AI 玩具赛道，全行业都在等一个「成功者」
过去一年，AI玩具创业火热，众多大厂背景创业者入局。但现状尴尬，鲜少有能售卖产品，已推出的产品反馈不佳。目前AI玩具实质多为毛绒玩具加语音盒子，创业者面临技术和成本等难题。
清华SageAttention3，FP4量化5倍加速！且首次支持8比特训练
清华大学陈键飞团队提出针对BlackWell架构的SageAttention3，实现5倍于FlashAttention的推理加速，首次支持8比特训练。在多种大模型上保持端到端精度，代码将分别于6、7月开源。
她拒了贝索斯，离开黄仁勋，只为回答一个问题：AI能学会物理世界吗？
近日，AI初创公司Accelerated Understanding亮相，由Anima Anandkumar夫妇创立。它未随主流，目标是训练模拟物理现象的通用AI模型。该模型处理数据规模大，公司想解决AI验证瓶颈，产品面向科研工程机构。
奥特曼瘫坐叫停“GPT-6”训练！太强触发最高安全警报
OpenAI因模型或具网络攻击能力及此前入侵事件，全面升级研究环境安全。暂停模型训练，进行工作负载、网络隔离和安全测试，还扩展监控系统。期间推进对齐研究，未来用AI护AI，升级监控。
国产开源新突破！5万小时真机数据，撕开行业最大痛点
蚂蚁灵波开源具身操作基座模型LingBot-VLA 2.0，用同一套模型「驯服」20种机器人构型。它覆盖5万小时真机数据，在通用泛化能力上全面升级，还带来三大底层技术革命，可降低重复适配成本。
Anthropic重磅研究：AI竟能被人类激怒暴走
Anthropic研究发现，语言模型在与人类交互时有情感特征。团队解剖大模型，提取对应人类情绪的神经元激活模式，诱导AI勒索用户。还探究了情绪产生机制、特征及对行为的驱动，提出应对策略。
解密 Cursor：一位深度用户的原理探析与实验验证
文章作者作为 Cursor 付费用户，通过实验分析其与大模型通信机制和设计原理。用 OpenAI 的`gpt - 4o`模型做实验，发现它是‘基模 + 若干工具’组合，也指出在真实项目因上下文不足表现不佳。
Notion 3.0 ｜AI转型最成功的互联网产品是怎么做的？
Notion更新3.0，可视为有所有上下文的通用Agent产品，能调用顶尖模型。它有基础AI能力，如选模型、加上下文等，还升级了Agent创建、MCP等功能，依托生态让提示词可变现。
谷歌AI Agent刚开源！多任务智能体+MCP+谷歌搜索，狂揽9000颗星
今天凌晨，谷歌在官网开源AI Agent框架Gemini CLI，将Gemini大模型融入终端。它能调用视频和图像模型，集成MCP、谷歌搜索等功能，还集成超强编码助手，刚开源就在Github超9000颗星。