「工程护栏」共找到 740 篇相关文章
小模型才是 Agent 的未来？这篇立场文把话挑明了
AI Agent浪潮来袭，主流用LLM构建，但英伟达和佐治亚理工学院研究人员论文指出，多数Agent场景中，小语言模型（SLM）已足够强、更好管、更省钱，还给出迁移清单、避坑建议和参考系统形态。
智能体的致命三要素及六种安全设计模式
智能体发展带来诸多安全问题，仅靠外部防护不合理。Simon Willison总结其致命三要素，指出间接提示词注入攻击难防。Invariant Labs等提出六种安全设计模式，可综合使用，多LLM方法值得关注。
在这场大会上，我们看到了AI进入物理世界后的样子｜甲子光年
第七届北京智源大会亮点多，有四位图灵奖得主。议题紧跟前沿，设20个论坛和180余场报告。现场展示多个机器人应用。智源发布“悟界”系列大模型，还聚焦开源，升级FlagOS系统。两位图灵奖得主对AI安全看法不一。
一个提示攻破所有模型，OpenAI谷歌无一幸免！
HiddenLayer研究发现一种「策略傀儡」提示，将危险指令伪装成配置片段，配上角色扮演，能让ChatGPT等主流大模型开启「无限制模式」。此策略利用训练弱点，难修复且可扩展，厂商需智能监控。
中国首次实现运载火箭一级陆地回收，朱雀三号“站着”回来了！
今早7时35分，蓝箭航天朱雀三号遥二运载火箭升空，一子级约6分钟后成功陆地回收，二子级将卫星送进预定轨道。这是中国首次实现重复使用运载火箭一子级着陆腿方式陆地可控回收。
看傻了！5k Star Canvas Editor，我被惊到啦～～～～
Canvas Editor是基于HTML `<canvas>` API的文档编辑器，自己控制绘制、分页、交互和导出。文章介绍其与普通编辑器差异、核心能力、适用场景、接入代码，也指出项目限制，认为它是架构新选择。
真狠！4 万 Star CodeWhale，AI 写代码最怕的是什么？？？？
文章介绍开源的CodeWhale，它是terminal coding agent harness，GitHub超4万Star。它给代码Agent定规则，涵盖身份、证据等原则。支持多模型，有任务流程和多Agent协作功能，还分析适用人群并给出启动方法。
Agent架构搭建 ≠ 堆Skills
现在很多Agent架构以大量Skills为基础，但这种做法大概率会翻车。Skills机制让模型自行判断是否使用及何时使用技能，其判断不可靠，随着技能数量增多，系统可靠性变差，设计上需平衡灵活性与可控性。
极端天气也不怕漏检！RDA-YOLO：面向微小绝缘子缺陷检测的鲁棒动态自适应网络
文章指出传统绝缘子检测方法面临人工巡检效率低、小目标检测难等挑战，现有YOLO系列算法也有局限。为此提出RDA - YOLO网络，在YOLOv8基础上有三项创新，实验显示其精度、速度和极端天气鲁棒性表现出色。
Claude Opus 4.7发布：更强能力，自我纠错，越来越不需要人类干预了
Anthropic发布Claude Opus 4.7版本，搭配Routines功能可自动化工作，减少人类干预。该版本能力大幅增强，还引入新护栏机制保障安全，推出新运算级别和任务预算功能。