「概念控制」共找到 793 篇相关文章
大模型幻觉的源头找到了！清华团队锁定大模型宁愿说谎也要讨好人类的神经元
清华大学研究团队深度解剖大语言模型微观机制，确认幻觉关联神经元存在，揭示其与过度服从行为相关。通过干预神经元激活状态可增减模型幻觉行为，为开发可靠 AI 系统提供靶点。
这可能是我见过最“接地气”的 AI 科普：从家政阿姨看懂 Agent 和 MCP
作者以家政阿姨打扫卫生为例科普AI名词，如阿姨比作AI Agent，扫地机器人是SubAgent，智能家居协议对应MCP，《家政技能手册》为Skills，借此辅助解释常见AI概念，助读者理解。
ICCV 2025 | 港科、牛津大学发布AlignGuard，文图生成模型可规模化安全对齐框架
随着文图生成模型广泛应用，其安全防护机制有限。ICCV 2025上，港科、牛津大学推出AlignGuard，是文图生成模型可规模化安全对齐框架，通过生成CoProV2数据集等实现安全对齐，实验效果佳。
可攻可防，越狱成功率近90%！六大主流模型全中招 | EMNLP'25
研究人员聚焦大型语言模型（LLMs）安全漏洞，提出全新越狱攻击范式SCP与防御策略POSD。SCP基于DTD机制，在6个主流模型上平均攻击成功率达87.23%；POSD能有效抵御攻击，还提升模型泛化能力。
Sam Altman 刚刚发文：Sora 2要高速迭代，两大变革直指版权与搞钱
Sora 2因大量侵犯日本动漫 IP 遭日本高层施压。Sam Altman 宣布立即调整，一是赋予版权方更精细的角色生成控制权，二是尝试商业化并与版权方收入分成，还会高频迭代，新方法将用于所有产品线。
科幻！谷歌放出Gemini Robotics-ER 1.5：机器人有了真正的思考力
谷歌推出首个广泛开放给开发者的机器人具身推理模型Gemini Robotics - ER 1.5，可作为机器人高级推理大脑。它能解决物理问题，有新能力如快速空间推理等，还能让开发者平衡延迟与准确性。
AISPM与AI防火墙--是产品不同，还是名字不同？
文章探讨AISPM与AI防火墙是产品不同还是名字不同。介绍xSPM概念及AISPM定义，分析国内AI防火墙应对威胁能力，指出AISPM更强调过程管理，未来AISPM对维护AI安全至关重要。
大模型解数学题是真懂还是 “死记硬背”？｜首个反例驱动的数学推理基准揭穿 “刷题式假象”！
随着大语言模型在数学领域应用渐广，其是否真具备数学推理能力成焦点。清华等团队提出反例推理评测基准COUNTERMATH，测试20+主流模型，结果不佳，而小样本微调能显著提升模型能力。
2025临界点：AI智商超越人类，经济规则即将改写
AI平均智商超110，2025年将参与经济全链条操作。AI经济浮现，具备全天候自动运行、无劳动力供给限制、或成非稀缺经济等特点，还能降低交易成本、减少非理性决策，或带来人类第三次理性化浪潮。
抄作业了！让AI产品告别“上线就崩”的CC/CD框架，6步搞定，拿走不谢。
文章指出AI产品因大模型不确定性，易上线翻车。介绍海外流行的CC/CD开发框架，阐述AI产品不确定性原因，强调自主与控制平衡，还给出该框架落地的6步工作流。