「攻击路径」共找到 701 篇相关文章
本周六直播预约 | Test-Time Reasoning综述分享！
当大模型训练成本飙升、数据枯竭，推理阶段扩展Test-Time Scaling（TTS）成研究热点。论文提出四维正交分析框架，梳理主流技术路线，提炼发展路径，给出操作指南与未来思考，本周六将直播分享该综述。
Lilian Weng：Harness才是模型自我迭代的现实起点和关键，而不是直接重写权重
Thinking Machines Lab联合创始人Lilian Weng发文指出，实现AI递归式自我改进（RSI），设计围绕模型的执行系统“Harness”才是现实起点。文中详述Harness设计模式、优化路径，也指出自我改进面临的瓶颈。
盘一下Anthropic 244页Claude Mythos报告中隐藏的SAE技术
Anthropic公布强大危险的大模型Claude Mythos Preview但未发布。文章深挖其244页报告中SAE技术细节，包括前期探索、技术框架、训练监控、攻击性行为分析及掩盖行为等，助了解模型内部思维。
国内卖得很好的智能硬件产品，为什么一出海就不行了？
中国智能硬件产品国内畅销，出海却遇阻，原因在于路径依赖致战略错位。未来十年是‘中国品牌’置换‘中国制造’关键期，Cismea 作为品牌孵化平台，助力中国品牌扎根北美主流市场。
迈向长程智能体，人大高瓴发布149页全景综述
新问题出现，长程智能体研究应运而生。人大高瓴发布149页综述，梳理超900项研究，从多视角给出长程智能体统一定义、分类与路线图，分析难点，提出核心论点与发展路径等。
不安全指令，一拒了之？TRIAD用三路决策：修复AI智能体的危险计划
墨尔本大学团队开源TRIAD框架，将传统二元护栏决策扩展为继续、更新、拒绝三类。通过自然语言反馈引导Agent修正计划，在ASB和AgentHarm评测中，显著降低攻击成功率，提升正常任务完成率。
奥特曼瘫坐叫停“GPT-6”训练！太强触发最高安全警报
OpenAI因模型或具网络攻击能力及此前入侵事件，全面升级研究环境安全。暂停模型训练，进行工作负载、网络隔离和安全测试，还扩展监控系统。期间推进对齐研究，未来用AI护AI，升级监控。
Vibe Coding 再升级，做世界顶尖的 Agentic Engineering！
过去18个月，AI Coding工具从‘辅助补全’到‘独立编程’质变，决定Agent产出质量核心变量从模型能力转向工程系统。文章探讨工程师角色迁移、Context Engineering、对抗Agent缺陷、长期维护及发展路径等问题。
英伟达发布 Jet-Nemotron 系列小模型，理论最大加速比 56 倍
英伟达发布 Jet - Nemotron 系列小模型，在多项基准测试中表现出色，实现高吞吐量加速和高准确率。其训练采用 PostNAS 方案，对既有模型针对性优化，展示了在小模型优化上的可行技术路径。
享年101岁！AI之父明斯基的「反对者」走了，一生都在寻找另一种AI
8月10日，AI先驱Warren Brodey逝世，享年101岁。他曾将控制论用于家庭研究，后赴MIT研究AI。他不赞同Minsky的AI路径，倡导以技术增强人类潜能，还开发「软建筑」等，对AI前景谨慎乐观。