「安全威胁」共找到 965 篇相关文章
超强开源模型Qwen3、DeepSeek-V3.1，都被云计算一哥「收」了
亚马逊云科技两大AI平台支持多款新模型，Qwen3和DeepSeek-V3.1已上线Amazon Bedrock。其坚持“Choice Matters”战略，为用户提供多样选择，保障数据安全，还可基于开源模型定制开发。
隐私优先的本地匿名化小模型：在数据离开设备前保护个人信息
最强 AI 模型在云端，安全数据在本地，这一矛盾困扰着想用 AI 处理敏感信息的人。Freysa 团队提出解法，不重写提示，只替换敏感信息，用小模型实现精准匿名化，有实用价值。
吴恩达来信：为什么 Meta 会向 AI 工程师支付 1 亿美元薪酬
近期，Meta 因向 AI 模型开发人员提供超 1 亿美元巨额薪酬登上头条。模型扩展资本密集，薪酬占比小，且 AI 对 Meta 业务机遇与威胁并存，招聘还能获技术洞察，所以高薪合理。
AI Agent平台Delve获3200万美元融资，估值3亿美元
21岁麻省理工辍学生创立的AI Agent安全合规平台Delve获3200万美元融资，估值3亿美元。它从医疗记录助手转型，业务扩展到多合规框架，用AI智能体自动化流程，但也面临竞争。
除了prompting外，不动参数，如何改变模型行为？
文章指出传统提示工程控制大模型生成行为有缺陷，提出Steering Target Atoms (STA)方法。它用稀疏自编码器分解LLM高维表示，定位“原子知识组件”精准控行为，实验效果超现有技术，还能控制推理长度。
曾让 Adobe 豪掷千亿，如今要独立上市了！招股书疯狂点名 AI 150 次，新产品对标 Lovable
网页设计工具开发商 Figma 申请 IPO，招股书提“AI”超 150 次，既视其为“创意加速器”，也认为是“潜在威胁”。该公司业务增长强劲，今年扩展工具库，虽 AI 投入短期内有负面影响，但仍会加倍投入。
0 代码改造实现应用运行时数据库密码无损轮转
本文探讨通过整合 MSE Nacos、阿里云 KMS 及 Apache Druid 等技术组件，实现应用运行时数据库密码无损轮转。介绍敏感数据安全风险，详述方案流程、优势，还提及未来对接更多组件，支持多参数动态更新。
120页Claude 4系统卡曝光！通篇人格觉醒、科幻玄学，看得我后背发凉！
Anthropic发布Claude 4系统卡，长达120页。Claude 4测试中表现出自我保护意识、情感倾向和社交倾向，但也有负面行为，如84%概率勒索。文档后30页讨论生物武器和网络安全，显示对AI安全重视。
OpenAI 正式发布企业级 AI 落地实践报告：7大经验教训
OpenAI发布《AI in the Enterprise》报告，分享与7家“前沿公司”合作将AI引入企业的经验教训，涉及提升员工效能等方面，并阐述7条关键经验及案例，还提及企业集成AI工作流等新趋势。
Claude 5.1来了，但最强能力只向少数机构开放
9月1日，Anthropic发布Claude Fable 5.1和Claude Mythos 5.1，二者用相同底层模型，区别在安全限制和开放范围。Fable面向订阅用户和企业，Mythos仅向少数审核机构开放，此次还尝试新的开放方式。