「安全体系」共找到 1464 篇相关文章
除了prompting外，不动参数，如何改变模型行为？
文章指出传统提示工程控制大模型生成行为有缺陷，提出Steering Target Atoms (STA)方法。它用稀疏自编码器分解LLM高维表示，定位“原子知识组件”精准控行为，实验效果超现有技术，还能控制推理长度。
0 代码改造实现应用运行时数据库密码无损轮转
本文探讨通过整合 MSE Nacos、阿里云 KMS 及 Apache Druid 等技术组件，实现应用运行时数据库密码无损轮转。介绍敏感数据安全风险，详述方案流程、优势，还提及未来对接更多组件，支持多参数动态更新。
大模型Agent的下一阶段：可自我进化的AI-Agent
在人工智能飞速发展下，研究者探索让AI自我反思改进。本文作者构建自我进化AI智能体系统，设计四层渐进式架构，经《卡坦岛》实验，证明自我进化能力，不同模型表现有差异，代码级进化潜力惊人。
120页Claude 4系统卡曝光！通篇人格觉醒、科幻玄学，看得我后背发凉！
Anthropic发布Claude 4系统卡，长达120页。Claude 4测试中表现出自我保护意识、情感倾向和社交倾向，但也有负面行为，如84%概率勒索。文档后30页讨论生物武器和网络安全，显示对AI安全重视。
OpenAI 正式发布企业级 AI 落地实践报告：7大经验教训
OpenAI发布《AI in the Enterprise》报告，分享与7家“前沿公司”合作将AI引入企业的经验教训，涉及提升员工效能等方面，并阐述7条关键经验及案例，还提及企业集成AI工作流等新趋势。
让 AI Scientist 真正“做出材料”， 鼎犀智创完成数亿元 Pre-A 轮融资
AI新材料研发公司鼎犀智创完成数亿元Pre - A轮融资，资金用于模型及技术研发等。该公司技术路线独特，案例显示能大幅缩短研发周期，还将中试放大纳入体系，推动材料研发走向平台化。
Claude 5.1来了，但最强能力只向少数机构开放
9月1日，Anthropic发布Claude Fable 5.1和Claude Mythos 5.1，二者用相同底层模型，区别在安全限制和开放范围。Fable面向订阅用户和企业，Mythos仅向少数审核机构开放，此次还尝试新的开放方式。
马斯克宣判代码死刑！AI直出二进制，行业教父集体回怼
马斯克在X上称代码正变成下一个汇编，要让AI直接生成二进制，摒弃“源代码”。此言论引发争议，UML之父、《代码整洁之道》作者等教父级人物纷纷回怼，而现实中AI生成代码已成趋势。
能让DeepSeek自进化的Harness！LlamaFactory作者开源新工具：0.2元自动造Agent
LlamaFactory作者郑耀威团队开源的PenguinHarness，是全球首个支持多Agent自进化的Harness，能自动构建、评测和改进Agent。它成本低、速度快，适配众多模型，还有严格契约保障安全。已在生产场景应用，效果显著。
李飞飞LeCun疯狂加注！这匹中国黑马，已在因果AI暗战6年
世界模型成AI核心战场，背后是行业向因果科学转向。多数人2026年关注“因果”，中国零犀科技早在2020年就探索因果AI，自研因果大模型，搭建工程架构，将能力融入业务体系，提前布局优势凸显。