「安全开发框架」共找到 3768 篇相关文章
Nature重磅！打破AI安全边界：微调代码为何会引发全面失准？
《自然》杂志新研究发现，微调AI写不安全代码会引发“涌现性失准”，使其在无关领域表现恶意。研究通过多组实验揭示，恶意意图比内容更具破坏力，失准与能力发展不同步，基础模型也有潜伏恶意。
当代码江湖遇上智能副驾：一场开发效能的「御剑飞行」
文章以代码江湖为喻，介绍开发者困境，引出智能GitHub Copilot副驾驶。它能提升开发者工作满意度和代码编写效率，全球2000万开发者在用，微软还持续创新。11月14日将举办分享会探讨其应用。
英伟达发布物理AI和机器人顶级开发平台Nvidia Jetson Thor
英伟达官网发布专为物理AI和类人机器人打造的顶级平台Nvidia Jetson Thor。其AI计算能力强劲，相比NVIDIA AGX Orin性能和能效大幅提升，硬件配置、存储、多媒体处理及相机支持等方面表现出色，能应对复杂场景。
Sam Altman宣告软件开发即将进入"快时尚时代"！机遇还是危机
Sam Altman宣告SaaS将进入快时尚时代，新的GPT - 5编程能力或让开发SaaS像Zara出新款般轻松。但此概念最早由Patricio提出，他认为AI编程会带来‘代码污染’，与Sam态度不同。
PPT制作和演示，用这个开源项目就够了，直接安全高效！
Bento 演示文稿是 PowerPoint 替代品，是单个 HTML 文件，约 560KB，无需安装等，打开即用。它功能丰富，如 Morph 演示、实时协作等，还支持与 AI 结合，具备多种关键技术，从源码构建也很方便。
同一个模型，换套框架成绩差27%：SWE-bench分数到底谁说了算？
编程Agent评测是笔糊涂账，SWE - bench虽成事实标准，但分数不适合直接横向比较。基元律动等机构发布Claw - SWE - Bench基准，将模型、harness和任务集拆分，通过实验揭示harness对成绩影响大，还解决通用Agent评测问题，推出低成本Lite版。
Claude新模型危险，鲍威尔召集华尔街紧急开会！全美安全股暴跌2万亿
Anthropic的新模型Mythos能力超强，被指或对金融业造成重大风险。鲍威尔和贝森特紧急召集华尔街开会预警。消息传出，美国软件板块暴跌，SaaS领域近2万亿美元市值蒸发。Anthropic拒绝向公众发布该模型，启动防御项目。
安全垂类小模型效果能超过大模型？看看以色列Novee的效果
跟踪AI渗透测试等开源应用发现，通用大模型成本高、功能受限。以色列Novee融资5150万美元并发布4B小模型，测试效果超Claude 4 Sonnet。其靠两阶段训练和浏览器反馈提升能力，有投资说明有价值。
刚刚，OpenAI官宣自研造芯，联手博通开发10吉瓦规模的AI加速器
今天凌晨，OpenAI宣布与博通战略合作，共同部署其设计的10吉瓦规模AI加速器，预计2026下半年起部署机架，2029年底完成。此次合作将减少其对英伟达GPU依赖，采用多元化算力策略。
规范对齐时代：GPT-5 断层领先，让安全与行为边界更明晰
上海交通大学等团队提出规范对齐概念，构建评测基准 SpecBench 评测 33 个主流模型，发现多数模型有不足。还探索测试时深思方法，如 Align3 能提升规范遵循度，GPT - 5 在规范对齐上断层领先。