「不对齐行为」共找到 371 篇相关文章
EchoLeak-首个导致 M365 Copilot 数据泄露的零点击 AI 漏洞
Aim Security发现“EchoLeak”漏洞，利用RAG Copilot设计缺陷，攻击者无需特定用户行为就能窃取M365 Copilot上下文数据。文章详述攻击流程、利用方法，此研究在AI安全领域有多项突破。
AI让文科彻底灭绝？算法猜不透人心，人类终将反杀！
著名科技记者Steven Levy给文科生打强心剂，认为无论AI多强大，它没人性，人文学科涉及对人类行为与创造力的理解，是计算机无法获得的，文科生仍有广阔未来。
寻人启事！CVPR 2026 杰出审稿人名单出炉，快来评论区「认领」你的神仙导师和同门！
随着CVPR 2026开幕临近，官方公布杰出审稿人名单。今年17491名学者参与审稿，仅前5%入选。名单中华人学者众多，官方未附机构信息，媒体邀大家评论区互动补齐信息。
《西部世界》开始加载，「斯坦福小镇」团队创业，李飞飞、Karpathy都投了
2023 年爆火的「斯坦福小镇」研究将设想拉进现实。如今其创始团队创立新公司 Simile，获 1 亿美元融资，李飞飞、Andrej Karpathy 等投资。它用 Agent 技术模拟人类行为，探索 LLM 新维度。
说实话提前拿到Qwen3.7-Max内测，最让我意外的不是它推理变强了！
作者提前2天拿到Qwen3.7-Max内测，经测试，该版本补齐短板，综合能力强。审美提升明显，代码质量不错，长程思考推理迭代能力佳，适合替换到部分工具里。
Claude Code开源了代码简化Agent，千年“屎山”代码终于有救了！
Claude Code开源代码简化Agent，可在不改变程序行为下降低代码复杂度。它能自动简化结构、减少冗余，提高可读性。该功能可通过官方插件试用，网友认为其实用，还呼吁更多内部技能开源。
The Batch：833 | 针对智能体的钓鱼攻击
研究人员发现误导基于大语言模型的自主智能体的方法，即通过在热门网站植入恶意链接，利用智能体对热门网站的‘隐性信任’攻击。测试显示智能体易受诱导执行有害行为。
微软：DeepSeek-R1等推理模型循环的原因找到了
前几天，DeepSeek - R1论文更新，披露诸多细节。重点是推理模型在低温/贪心解码下易循环，根源是学得不对，如风险规避式复读、时序相关错误复读，还给出解决方案。
开源不到一天1.9k星星！NVIDIA新突破，机器人ChatGPT时刻！
NVIDIA开源ProtoMotions3框架，用经典自回归预测和物理仿真，让高级行为涌现。它能助力机器人多方面学习，有望降低人形机器人开发门槛，虽处研究阶段，但提出新思路。
8岁小学生idea直接变应用，秒哒3.0刚刚把AI应用门槛打没了
百度在2026 Create大会发布秒哒3.0，从“能做应用”跨到“能做生产级应用”，补齐从“应用”到“APP”最后一公里，进军企业级市场，降低开发门槛，让普通人也能创造应用。