「安全防范负责人」共找到 1139 篇相关文章
文言文秒杀所有大模型！100%攻击成功，轻松突破安全防线
南洋理工等机构团队提出基于文言文语境的自动化黑盒测试框架CC - BOS，利用果蝇算法和8维策略空间，暴露主流大语言模型安全盲区，实验显示对6款主流模型攻击成功率达100%。
Anthropic Labs 负责人：AI 时代做产品，最大的陷阱是「做太多」
Anthropic Labs 负责人 Mike Krieger 在播客中探讨 AI 时代产品建造问题。他以重建 Bourbon 为例，指出 AI 加速开发有弊端，还分享产品易过度建设、需接受重写等观点，也谈到团队结构、企业客户矛盾等内容。
Claude Code惊人身世曝光！竟脱胎于安全对齐，Boris：才完成1%
Claude Code起源于Anthropic内部安全对齐项目，其发展历经波折。从2021年早期尝试，到2025年正式发布，期间突破重重技术难题。虽已改变硅谷运转方式，但核心开发者Boris称只完成1%。
OpenAI Codex负责人 Tibo访谈：指明未来Agent方向以及为什么频繁重置额度
近期OpenAI Codex负责人Tibo接受采访，透露产品方向与技术路线，如让Agent深度理解用户、合并ChatGPT和Codex等，还谈及保持迭代、对竞争态度、重置用量限额等问题。
这帮清华的，造了一个让龙虾“安全着陆”的新物种
在OpenClaw热潮中，隐私保护缺位成企业和开发者难题。无问芯穹推出InfiniClaw Box，独创‘三段式’架构，适配全模态信源，解决数据安全与模型能力兼顾问题，还与多家企业合作拓展应用边界。
刚刚，OpenAI 再次开源！安全分类模型 gpt-oss-safeguard 准确率超越 GPT-5
OpenAI 开源安全分类推理模型 gpt-oss-safeguard，有 120b 和 20b 参数量版本，采用 Apache 2.0 许可证。它能直接理解策略文档分类内容，推理能力超 GPT - 5，性价比高，虽有局限但仍是开发者利器。
抢天才还是拼算力？前 Llama 推理负责人详解 AI 的真实天花板
前 Llama 推理负责人 Ross Taylor 在播客访谈中指出，AI 竞赛中的混乱和挖角是噪声，最终会被指数级算力淹没。他阐释了算力指数曲线决定竞赛天花板，强调系统性实验、高质量评估的重要性。
AI模型守法率提升11%，港科大首次用法案构建安全benchmark
香港科技大学KnowComp实验室从法律合规视角研究LLM安全，提出「安全合规」新范式。基于法律条文构建benchmark，用GRPO微调Qwen3 - 8B得推理模型，在新benchmark测试中性能提升显著。
1899个MCP服务安全研究：7.2%存在漏洞，5.5%暗藏「工具投毒」
研究人员对1899个开源MCP服务器扫描，发现7.2%项目有漏洞、5.5%遭工具投毒。MCP虽成事实标准且发展好，但代码质量堪忧，传统安全工具难检测其风险，为生态敲响警钟。
我们真的变成巫师了：OpenAI API 负责人谈 AI 如何重塑软件工程
OpenAI API 负责人 Sherwin Wu 在 Lenny's Podcast 上分享，OpenAI 内部 95% 工程师用 Codex，100% PR 由其审查。他谈了 AI 重塑软件工程的现状、未来趋势，提及管理变化、创业效应、部署问题等，也为创业者给出建议。