「不对齐行为」共找到 358 篇相关文章
揭秘大模型Steering：从底层机理到系统评估，全面破解大模型行为控制之谜
近期《Science》研究表明可解析AI内部表征实现通用引导与监控。浙大联合阿里两篇ACL 2026主会论文，揭示Steering工作原理与能力边界，还开源一站式框架EasyEdit2，全面展示了Steering价值。
Claude Code 省 Token 指南：慎用 1M 上下文，不开新会话或者总是开新会话都不对
文章聚焦Claude Code省Token问题，分析配额消耗快的原因，介绍提示缓存机制，给出省钱策略、操作规则，还提及委派工作及澄清误解，强调让缓存多命中、上下文少装无关内容。
2025 IMO真题撕碎AI数学神话，全球顶尖模型齐翻车！冠军铜牌都拿不到
2025 IMO数学竞赛中，全球顶尖AI模型均翻车。冠军Gemini 2.5 Pro仅得31分，连铜牌都拿不到。Grok - 4表现糟糕，DeepSeek - R1也令人失望。AI虽有思路，但逻辑细节不足，离成奥数大师尚远。
AI 赋能 eBay 支付风控：从用户行为到交易安全的全面智能化｜AICon 北京
6月27 - 28日AICon全球人工智能开发与应用大会北京站将举办，eBay高级技术专家魏瑶将分享《AI赋能eBay支付风控》。eBay用AI提升风控能力，也面临挑战并提出方案，大会还有多专题论坛。
用3万小时触觉数据补齐具身智能「手感」，新智具身联合复旦大学统一触觉「方言」
新智具身联合复旦大学发布三份技术报告，将触觉跃升为具身智能核心基建。构建3万小时交互语料库统一触觉“方言”；提出新方案让机器人提前预判触觉；在世界模型中重构“触觉想象”，推动具身智能“视触融合”。
360 周鸿祎：做中国版 Mythos 不能照搬美国路线，基模能力的差距可以通过Harness补齐
过去几月，Anthropic的Mythos模型成全球网络安全焦点。360周鸿祎在ISC.AI 2026上发布‘图龙锋’和‘仪天阵’，欲做中国版Mythos，还发起‘磐石之盾’计划。他认为不能照搬美国路线，可通过Harness弥补基模差距。
4个月融进1亿美元、建齐3座「数据发电厂」，这家TechBio要造一个生物世界模型
原生AI TechBio公司寻明生科4个月融1亿美元，欲搭建横跨数字与生物世界的药物发现基础设施。其聚焦抗体药物设计，构建干湿实验闭环，推出AuraIDE和OpenDDE，采用“既卖引擎，也卖车”商业模式。
ICML 2026 | 大模型为什么算不对加法？南大团队提出等本位和轨迹，揭示LLM算术错误的几何机制
南大团队研究LLM在多操作数加法中的内部表征结构，发现算术状态呈高度结构化几何流形。提出等本位和轨迹与噪声量化模型，解释模型算错加法原因，还设计推理时纠错方法。
会挖0-day漏洞！凶残版Claude官宣却不让用，微软苹果齐下场“看守”，Anthropic到底在图什么？
Anthropic官宣Mythos Preview，却未将其放给普通人用，而是塞进防御联盟Glasswing。Mythos在漏洞发现和利用上能力超多数人类，Anthropic怕其引发风险，先将它组织进防守体系，还试图占据‘负责任的frontier lab’位置。
第 3 章 Agent 核心功能技术详解
本章以Claude Code及其生态为主参照，介绍现代Agent平台提供类似‘操作系统’机制，包括命令、记忆等。面向熟悉Python与LLM的开发者，按是什么、解决什么问题等展开，还分析了Agent工程核心挑战。