「元能力对齐」共找到 3933 篇相关文章
提升大模型内在透明度：无需外部模块实现高效监控与自发安全增强｜上海AI Lab & 上交
大语言模型能力提升引发风险担忧，当前主流用外部“黑盒”监控模块解读模型表征，存在诸多局限。上海人工智能实验室和上海交通大学团队提出TELLME方法，摒弃外部模块，提升模型内部透明度，还提升了输出安全性。
AI还不会独自问诊，o3准确率仅为51.12%，上交大×SII开源高难度复杂疾病诊断测评集
上海交大与SII团队开源高难度复杂疾病诊断测评集DiagnosisArena。测试显示，现有大模型在复杂临床诊断任务中表现不佳，o3准确率仅51.12%，且选择题设置无法反映其真实能力。
自建一个 Agent 很难吗？一语道破，万语难明
作者分享给传统研发平台接入 Agent 开发能力的经验，介绍技术选型、方案落地、系统提示词优化、知识库建设等内容，还提及工具接入、上下文管理等方面，为想自建 Agent 的人提供启发。
DeepSeek-R2要来了？
DeepSeek-R1发布一周年之际，其存储库更新引用全新「model 1」模型，极可能是R2。HuggingFace发文称R1降低技术、采用、心理三重壁垒。R1以推理优先，改变多项认知，故事仍在继续。
倒反天罡！Claude「反向」操控人类，公司估值冲2万亿跃居全球第二
2026年1月17日，一段‘AI指挥人类写代码’视频刷屏，Claude Code能力引发关注，模糊人机交互界限。18日《金融时报》称红杉资本将参与Anthropic新一轮融资，其估值冲向3500亿美元，或成2万亿级AI独角兽。
我为马斯克扮演机器人！擎天柱背后竟是最贵「演员团」
外媒揭秘特斯拉擎天柱靠人工数据训练。在实验室，员工重复日常动作，由摄像机记录。工作体力消耗大，要求严格，团队曾超百人，还裁掉部分人员。虽马斯克看好，但实际仍在靠人力蹒跚学步。
AI版盗梦空间？Claude竟能察觉到自己被注入概念了
Anthropic最新研究发现LLM有内省迹象，Claude能察觉概念注入。研究用概念注入测试，虽模型内省能力有限且不可靠，但能力强的Claude Opus 4和4.1表现好，未来内省或更复杂。
马斯克Grok-4卖货创收碾压GPT-5！AI卖货排行榜曝光，AGI的尽头是卖薯片？
新智元报道，「Vending Bench」榜单让大模型经营自动售货机一较高下。Grok - 4卖货能力超GPT - 5，销量约高2倍，营收增31%。此测试揭示AI长周期决策挑战，引发AGI定义讨论。
百度搜索变天了：怎么搜索你们定
百度 App 搜索框大改版，升级为智能框，支持多模态输入，降低使用门槛。还推出多项功能，如百看、智能创作、深度搜索等，接入 MCP 服务，推动产品能力多方面转变，探索新盈利模式。
大模型“拼好题”，45K数据撬动18%提升，数学问题拒绝死记硬背 | MathFusion
上海AI Lab等团队提出MathFusion，通过三种“融合策略”生成新的融合数据集MathFusionQA，仅用45K合成指令，在多基准测试中平均准确率提升18.0个百分点，增强模型解决数学问题的能力。