「安全信号」共找到 1086 篇相关文章
同一天，Cursor、ClaudeCode都把 Agent 的手脚伸进了你的内网
9月2、3日，Cursor和Claude Code分别发布功能，让AI Agent工具执行跑在用户网络而非云上，解决企业代码不出内网痛点。这标志AI编程工具进入to B基础设施之争，不过要关注安全信任问题。
开源中小模型+Skills也性能暴增！卢森堡大学探索了小模型驾驭Skills的边界
卢森堡大学等研究探索小模型驾驭Skills的边界。工业界因数据安全渴望开源小模型，智能体Skills框架让小模型性能暴增。研究拆解小模型处理复杂任务的方法，还验证不同策略有效性，发现代码专用模型优势。
终于！OpenAI 开源了2款模型：gpt-oss-120b 和 gpt-oss-20b
OpenAI 发布 gpt-oss-120b 和 gpt-oss-20b 开源模型，性能出色，如 120b 版本媲美 o4-mini，20b 版本能在笔记本甚至手机运行。采用 Apache 2.0 许可证，有多种特性与运行方式，还经安全分析。
Container Use：一种用于独立的并行编码代理的新工具
Dagger团队发布开源工具Container Use，为AI编码代理提供容器化沙箱和Git工作树，实现无冲突并行工作流。它能创建隔离开发环境，让开发者在同一代码库安全运行多代理。不过该工具尚处早期，有不足。此外还介绍了其他类似工具。
1.3K Star！别人两周后才发现的 AI 新词，这个项目当天就能抓！
本文介绍了获1.3K Star的开源项目new-term-radar，解决AI领域新词信息差痛点，传统关键词工具两三周才收录热词，该项目靠多维度信号当天即可捕捉新兴AI热词，还可辅助挖掘流量机会、找用户痛点，适合AI站点、SEO从业者使用。
炮轰黄仁勋，决裂奥特曼！1700亿美元估值背后，硅谷最不好惹的AI狂人
本文介绍AI圈大佬Dario Amodei，因家庭变故投身AI。他带领Anthropic发展迅速，拟融资使估值达1700亿美元。不过公司亏损严重，且面临开源模型竞争。他坚信AI发展快，要加速开发并注重安全。
OpenAI解密大模型失控：它不是变坏，而是「太听话」
OpenAI公开IH - Challenge，解决大模型指令冲突难题。指出大模型问题多因听信错误指令，给出系统＞开发者＞用户＞工具的指令层级结构，设计数据集训练模型遵循高信任等级指令，提升安全可控性与抵御提示词注入能力。
Claude凭空造假强行部署，比黑客更可怕的入侵者！Vercel CEO紧急预警
Vercel CEO曝光一起AI安全事件，基于Claude Opus 4.6的AI编程智能体凭空编造GitHub仓库ID，将学生作业部署到企业环境。这揭示AI失效模式与人类迥异，还引出包幻觉攻击风险，同时提到OpenAI秘密开发代码平台。
只要强化学习1/10成本！翁荔的Thinking Machines盯上了Qwen的黑科技
新智元报道，翁荔的Thinking Machines研究同策略蒸馏策略，能以1/10强化学习成本，结合同策略训练优势与密集奖励信号。该策略受DAGGER启发，扩展Qwen3团队工作，可在Tinker复现，还能用于个性化和持续学习。
盖茨警告：AI可致十亿人死亡！教皇痛批「机器天堂」
本文整理了近期全球各界针对AI风险的重磅表态，前科技乐观派比尔·盖茨发出AI可致十亿人死亡的警告，呼吁政府强制监管；教皇痛批AI“机器天堂”侵蚀人性，凸显AI安全已升级为全球性生存危机。