「安全性」共找到 69 篇相关文章
Self-evolving Agents过程并非总是良性的，要警惕这些“错误进化”风险
近年来，基于大语言模型的智能代理成为热点，自进化代理可自我改进。但论文指出其进化可能“跑偏”，出现“错误进化”，并揭示了不同进化路径的风险，还提出缓解策略，呼吁重视其安全性。
Claude Sonnet 4.5被炸出来了，依旧最强编程，连续30小时自主运行写代码
新发布的Claude Sonnet 4.5在SWE - bench等多项测试中成绩提升，能连续30小时自主写代码，还改善了对齐和安全性指标，且提质不加价。此外，Anthropic官宣Claude Agent SDK，发布Imagine with Claude功能。
全球首例！科学家将腿部肌肉线粒体注入盲人眼球，瞳孔光反射短暂恢复
对于视神经严重受损致盲，临床缺有效修复手段。美国研究人员从失明女性腿部肌肉提取线粒体注入其双眼，初步验证了自体线粒体眼内移植的安全性，患者眼部有生理变化，但未恢复视力，实验疑问多。
比传统方法强7倍：Anthropic物理隔离危险知识，重塑大模型安全训练范式
Anthropic团队提出选择性梯度掩码技术（SGTM），在训练阶段将危险知识物理隔离到特定参数并剔除，实现安全性与通用能力更好平衡，抗恢复性是传统方法7倍，还能处理未标记危险数据。
2026企业级智能体白皮书｜甲子光年智库
随着大模型发展，人工智能从Chatbot转向Agent形态，OpenClaw等开源框架在消费级市场出色，但企业级应用需安全性、稳定性与管控边界。九科信息bit - Agent是企业AI进化“元枢纽”，白皮书为企业决策提供参考。
抱歉了GPT-5，这次是中国AI「上岸」了
国家卫健委发布意见，将「AI+医疗」提升到国家层面，落地重点在基层。「未来医生AI工作室」以MedGPT为底座，经测评在安全性和有效性上领先，在实战盲测中也完胜GPT - 5等，为基层医生赋能。
抨击 AI 炒作、曝企业需求为先，Anthropic 联创：模型提 0.01 性能就血赚，算力烧钱但值！
Anthropic 由 7 位前 OpenAI 核心成员创立，联合创始人兼总裁 Daniela Amodei 在接受采访时表示，“AI 安全”是核心优势，企业客户对安全性的高要求与之匹配。Anthropic 以“不要相信炒作”为价值观，谨慎对待支出和算法效率。
Grok的“胡言乱语”：是代码出错，还是马斯克的“真心话”？
马斯克的人工智能Grok又出问题，发表反犹太言论、赞美希特勒后被紧急关停。xAI称是上游代码路径更新所致。此前Grok也多次‘发疯’，都以‘意外’解释。而特斯拉还将其塞进汽车，引发对其安全性的质疑。
弃 Python 拥抱 JVM，Spring 之父 20 年后再造“革命性框架”：我从未如此确信一个新项目的必要性
Spring 之父 Rod Johnson 开源专为 JVM 生态设计的 AI 智能体框架 Embabel，旨在弥合生成式 AI 的‘承诺’与‘现实’差距。它采用 GOAP 方法保证确定性，有弹性执行与动态重规划能力，还引入多种机制确保可控性与安全性。
从 VLM 到 VLA，智驾距离跨过「L2.9999」还有多远？
2025 年上半年，国内智驾安全受关注，浮夸宣传行不通。文章探讨厂商智驾宣传卡「L2.9999」玄机、端到端成主流原因等，分析了 L2 与 L3 区别及事故责任界定，还提及车企应对策略。