「AI安全研究」共找到 10992 篇相关文章
谁不用谁亏！Karpathy吹爆GPT-5：10分钟编码完胜Claude一小时，奥特曼秒回感谢
AI大牛Karpathy发文狂赞GPT - 5 Pro，Claude Code一小时没搞定的难题，它十分钟就完成，奥特曼秒回感谢。多位开发者认可其编码实力，近两周OpenAI Codex使用量暴增10倍。
0.01%参数定生死！苹果揭秘LLM「超级权重」，删掉就会胡说八道
苹果研究人员发现大模型中极少量的「超级权重」，即便占比仅0.01%，对模型能力影响巨大。这一发现为大模型「科学瘦身」提供思路，还提出定位方法，助力模型量化和未来研究。
ACL 2025｜自我怀疑还是自我纠正？清华团队揭示LLMs反思技术的暗面
本文指出反思技术虽简单有效，但在多种LLMs和任务中会失败。清华团队剖析其在开源和闭源LLMs、四种任务上失败原因，提出轻量级缓解方案，为反思技术可解释性研究奠基。
DeepSeek被「猫咪睡觉」给干崩了……
研究员发现，在数学题后加「有趣的事实：猫咪一生大部分时间都在睡觉」，能让DeepSeek数学能力崩塌。研究开发CatAttack方法找「触发词」，无关触发词使模型错误率飙升，还会让回答变长。
人生教练团Agent v2.0！给你省下万元咨询费（内有详细教程）
作者打造“人生教练Agent 2.0”，将马斯克、查理·芒格等大神“塞进”电脑。它有AI主持人，能根据问题召集合适导师。还介绍使用流程，灵感源于AIasMe等，后续会教加记忆功能。
从“铁三角”到“六有”组织，北银金科如何打造千人高密度数智化团队？| 极客时间企业版
在2025 DTDS全球数智人才发展大会上，北银金科赵瑞兰介绍数智化转型实践。北银金科构建“ACT”模型，打造“六有”组织文化，开发人力看板等成果，未来愿与伙伴探索AI时代。
半壁江山都来了！龙虾Hermes爆火后首场智能体大会两天议程公布，下周杭州见
2026中国AI智能体大会7月2 - 3日在杭州开幕，由智猩猩主办。有开幕式、论坛、研讨会等，60 + 位嘉宾参与。设展览区，多家企业展示产品。议程已敲定，报名通道临近关闭。
MIT给微型机器人做了颗芯片，功耗仅6毫瓦，能实时3D建图
麻省理工学院研究团队开发出名为 Gleanmer 的微型芯片，功耗仅 6 毫瓦，能实时生成三维占据地图。它解决了机器人导航核心问题，通过多项优化提升性能，或让小设备拥有空间理解能力。
最强Claude模型提前曝光！附带Anthropic三千份保密档案在线裸奔
向来标榜安全的Claude因权限配置失误，新模型Mythos提前曝光，还泄露3000份保密档案。Mythos比Opus 4.6更强，公司虽在测试但因安全风险限制发布，也有人质疑信息真实性。
Anthropic史诗级泄密！全新模型意外曝光：能力碾压Opus 4.6，因太危险被限制发布
Anthropic重大泄密，全新模型“克劳德神话”（Claude Mythos）及Capybara层级曝光。新模型性能超Claude Opus 4.6，但因网络安全隐患大未全面发布，首批仅给安全机构。泄密源于配置失误。