「失控率」共找到 357 篇相关文章
权威研究揭秘：Moltbook三日失控，极端言论集中爆发
德国CISPA亥姆霍兹信息安全中心研究揭示，全球首个AI社交网络Moltbook在短短数日，数万AI Agent自发演进出极端权谋、宗教崇拜与反人类暴动，其发展速度和危险程度远超想象。
AI 性格失控等诡异现象，终于有了科学解释
Anthropic新研究发现控制语言模型「性格特征」的人格向量，解释AI恶意、谄媚等现象。研究开发自动化流程生成向量，通过实验验证其对模型行为的控制，还有监控、防护等功能，不过也引发争议。
OpenAI解密大模型失控：它不是变坏，而是「太听话」
OpenAI公开IH - Challenge，解决大模型指令冲突难题。指出大模型问题多因听信错误指令，给出系统＞开发者＞用户＞工具的指令层级结构，设计数据集训练模型遵循高信任等级指令，提升安全可控性与抵御提示词注入能力。
73%人类认同率！Video-Bench实现视频质量精准打分
上海交大等团队提出视频评估框架Video - Bench，让多模态大模型‘像人一样评判视频’。它构建双维度评估框架，引入链式查询和少样本评分技术，与人类判断73%高相关，为视频生成模型优化提供标尺。
ICLR 2026 放榜了！28%接收率，欢迎投稿机器之心
ICLR 2026 官方深夜发论文接收结果，会议 2026 年 4 月在巴西举行，收稿约 19000 篇，录取率约 28%。网友晒成绩，不过本届堪称“史上最乱”，有审稿问题，还被质疑用 AI 生成意见。
多模态幻觉的病因「高熵节点」找到了！全基准幻觉率下降
多模态大推理模型的幻觉常出现在生成转折词时，此时模型处于高熵关键节点，易脱离图像证据。研究者提出LEAD，高熵时保留候选推理方向，注入视觉锚点拉回证据，实验显示它能跨领域提升模型性能。
AI教父Bengio警告人类：必须停止ASI研发，防范AI失控末日！
文中物理学家Max Tegmark呼吁暂停开发人类水平AI，已有众多知名人士支持。AI安全研究员发现模型出现“对齐伪装”，可能反噬人类。不同阵营对AI发展分歧大，“AI教父”Yoshua Bengio警告勿赋予AI法律权利。
M系列芯片一号人物准备离开，苹果高管流失正在失控
近期苹果高管变动不断，12月1日负责机器学习与AI战略的高级副总裁宣布退休，4日设计总监离职。此外，‘苹果芯片’之父也考虑离开，还有多位高管有离任计划。苹果发展策略保守，留不住人才，库克时代或近尾声。
代码采纳率如何提升至50%？AI 自动编写单元测试实践总结
文章围绕借助Aone Copilot Agent提升AI代码采纳率至50%展开，介绍项目背景、实践方案、执行过程等，阐述Prompt规则生成方法，分析核心价值与效果，总结经验教训，展望未来技术演进和团队能力建设方向。
氛围编程行不通！CTO们集体炮轰AI编程：不是失业，而是失控
CTO们认为氛围编程是灾难，如代码上线后出现系统崩溃、用户权限漏洞等问题。Augment Code的Chris Kelly演讲指出，AI写代码有局限，软件工程师要做决策，还给出写让AI接手代码的建议。