「安全设计」共找到 2123 篇相关文章
又要取代程序员了？这锅轮到 AI 背了
文章指出‘AI会取代程序员’论调有误，代码是负债，系统设计才是核心资产。回顾NoCode、云计算等变革，技术未取代人，而是重塑岗位。AI辅助开发也如此，暴露软件工程中设计系统才是AI难取代的能力。
ICLR 2026 | ProSafePrune：一剪见效，告别大模型过度防御
合肥工业大学与科大讯飞联合团队提出全新低秩参数修剪框架 ProSafePrune，被 ICLR 2026 录用。它能精准定位模型认知偏差并修剪，降低过度拒绝率，不损安全防御能力，还提升通用任务性能，为 LLM 安全部署提供新思路。
秒级集群翻转、分钟级IDC故障止损 | 同程大规模Elasticsearch平台架构设计与实践
在数据驱动时代，同程旅行核心业务依赖Elasticsearch，随着集群规模扩大，面临对用户、运维、平台要求高的挑战。本文分享同程ES平台架构设计、解决方案与实践成果，还展望借助大模型提升智能化水平。
Agent 成大厂新“战场”？从同程旅行 DeepTrip 看垂类 Agent 的设计与落地实践
文章聚焦同程旅行推出的垂类旅行 Agent DeepTrip，介绍其设计与落地实践。它能降低旅行决策成本，构建旅行服务生态。团队基于多方面考量选 Agent 架构，还从多维度介绍实现方法及未来规划。
比传统方法强7倍：Anthropic物理隔离危险知识，重塑大模型安全训练范式
Anthropic团队提出选择性梯度掩码技术（SGTM），在训练阶段将危险知识物理隔离到特定参数并剔除，实现安全性与通用能力更好平衡，抗恢复性是传统方法7倍，还能处理未标记危险数据。
19岁少年用计算机炼出「神药」，斩获全球大奖！大厂看了都沉默
19岁斯洛伐克少年Adam Kovalčík用计算机模拟设计新分子，提出新合成方法，有望将抗RNA病毒药物Galidesivir成本降6倍，还设计出对新冠抑制效果或达Galidesivir 5倍的新分子，获全球青少年科研大奖。
医疗AI新标准来了！现公开征集起草单位和专家！
当前人工智能与医疗卫生融合机遇大，国家有相关规划，市场规模将大增。但医疗AI发展受数据安全与隐私保护制约。现智合标准中心等组织编制全国首部医疗AI数据安全团体标准，还公开征集起草单位和专家。
首篇自进化智能体系统技术报告出炉：Token成本直降近10倍，省钱又高效！
全球首个基于‘上下文信息密度最大化’的自进化智能体系统GA发布技术报告。它在多基准测试表现惊艳，能省近10倍Token，还能自我进化。报告深度解读设计理念，剖析自进化能力与智能体设计思路。
重磅！Claude一口气打通Adobe、Blender等8大设计建模创意软件，3所顶级艺术院校同步试点
Anthropic宣布与多家伙伴推出一批连接器，让Claude能在创意软件中运行，涵盖3D建模、平面设计等领域。Claude在创意工作中有多种用途，Anthropic加入Blender开发基金，还与三所艺术院校合作试点。
用系统架构思维，告别“意大利面条式”系统提示词
本文作者分享编写系统级提示词经历，指出‘规则清单式’设计有规则打架、维护难、价值稀释问题。引入系统架构思维，构建四层设计框架，给出编译原则与模板，还重构‘AI编程助手’提示词，实现从‘规则管理者’到‘系统设计师’转变。