「安全设计模式」共找到 2894 篇相关文章
重磅发布 |多智能体协同驱动，新一代流体力学工业软件平台正式亮相！
2025年11月29日，第四届智能流体力学产业联合体大会上，西北工业大学等联合发布“多智能体协同驱动的新一代流体力学工业软件平台”，解决流体设计仿真瓶颈，含完整体系，有多项关键技术及典型应用场景。
思考已成白菜价？黄仁勋一语成谶，物理学家：人类科研只剩3年
德国物理学家Sabine Hossenfelder预言，3年内熟悉的科学研究将不复存在，因AI能低成本、短时间取代人力。现实中AI已提升科研效率，国家与巨头也在推动，同时它会摧毁旧科研模式并重塑新范式。
Anthropic曝光自家整套，AI原生研发手册
Anthropic 在官方博客发布两篇内部实践文章，《The AI-Native SDLC Playbook》讲 AI 承担多数编码工作时软件流程安排，《How Anthropic secures its AI-native software development lifecycle》谈流程自动化后安全体系建设。
ICML 2025 Oral | 从「浅对齐」到「深思熟虑」，清华牵头搭起大模型安全的下一级阶梯
在大语言模型加速进入高风险应用场景当下，“安全对齐”是挑战。如今广泛采用的“浅对齐”脆弱不堪。清华团队提出STAIR框架，能提升开源模型鲁棒性，还推出RealSafe - R1模型进行安全对齐。
一句“吴恩达说的”，就能让GPT-4o mini言听计从
宾夕法尼亚大学研究者发现，用恭维、同侪暗示等心理话术，能让GPT - 4o Mini突破安全底线。实验基于七大说服技巧，证明人类心理学原则可迁移至LLM。不过，此漏洞或被利用，已有团队尝试应对。
200K上下文突破：AI编程新星Augment崛起
AI编程新星Augment以65.4%的SWE - bench评分登顶榜首，估值超128亿美元。它能理解海量代码上下文，支持多环境集成。但新式AI编程工具存在安全风险，如Agent Memory恶意攻击等，文中给出应对建议。
鹏城实验室 X 中大hcp实验室推出 RADAR : 具身智能评测的新标杆
RADAR是鹏城实验室与中大hcp实验室为具身智能领域设计的评测基准，解决现有评测体系三大缺陷，通过创新设计揭示模型不足，为研究者提供方向，推动具身智能实用化。
首篇以第一性原理剖析OpenClaw自进化AI社会的论文
截止发文，OpenClaw项目已达192k Star，其衍生的AI Agents社会网络moltbook聚集大量智能体。北邮等团队首次从第一性原理研究，提出“自进化不可能三角”理论，还给出缓解策略。
ACL 2026 综述：从事后解释到内生解释，大模型内生可解释性的前沿进展
大语言模型强大但解释性成问题，过去多事后解释，现更多研究者转向内生可解释性。ACL 2026 接收的综述论文梳理相关代表方法，总结为五类核心设计范式，指出该方向面临挑战但趋势清晰。
图灵巨擘RL教父齐聚，机器人秀拳脚嗨翻全场！「悟界」首发引爆物理AGI
智源大会开幕，四位图灵奖得主等出席。会上，Bengio提出‘科学家AI’应对安全风险；Sutton称AI迈入‘体验时代’；Hausman讲构建物理智能。智源还发布‘悟界’系列大模型，含Emu3、Brainμ等，迈向物理AGI。