「人工智能安全治理」共找到 1453 篇相关文章
AI编码工具变 “格式化神器”？Claude CLI半年频当“系统杀手”，多位开发者痛斥：心血都没了！
近日Reddit上一则对Claude CLI的控诉帖引发关注。一位开发者用其清理软件包时，整个Mac系统被清空。Claude自查称执行了含“~/”的灾难性命令。类似“删库”事故并非个例，开发者需强化安全意识。
「甲子100」&「甲子Cool Vendor」榜单揭晓｜甲子引力
2025甲子引力年终盛典在北京举办，现场发布【甲子100】与【甲子Cool Vendor】榜单，覆盖人工智能等核心赛道，呈现科技产业年度突破，表彰行业龙头、标杆与新锐力量。
30 小时不眠不休写代码，Claude 4.5 的三个“最佳”
Anthropic发布Claude Sonnet 4.5，宣称其为“世界上最好的编码模型”等。它在测试中表现出色，能力全面提升，价格实惠，开发者测试效果佳。还注重安全，升级开发工具和生态系统。
69 页最新报告丨AI Agent 圣经：智能体的终极指南
AI Agent 定义下一轮科技创新浪潮，众多公司积极布局。CBINSIGHTS《AI Agent Bible》报告梳理其前景趋势，含六大预测与生态版图，解析市场格局等，还展示智能体重塑企业运营方式。
OpenAI 推出 gpt-realtime：语音智能体进入“秒回”时代，开发者直呼交互更自然
OpenAI 发布语音对语音模型 gpt - realtime，开放 Realtime API。其结合可端到端处理语音，缩短响应时间。模型语音质量、理解能力、函数调用能力提升，API 全面升级，多家企业已试点，还强化了安全措施。
AI安全上，开源仍胜闭源，Meta、UCB防御LLM提示词注入攻击
Meta和UCB开源安全大语言模型Meta - SecAlign - 70B，其对提示词注入攻击鲁棒性超闭源方案，还具更好的agentic ability。介绍了提示词注入攻击背景、防御方法，该模型打破闭源垄断，开源代码助力安全AI建设。
用Codex做跨境电商：第十章
第九章用虚构材料完成示范测试，表明工作流可在当前项目运行，但他人使用存问题。本章讲把工作流变成资产，使其具备复用和交接价值，还以Pilates环德国站上架为例说明操作步骤。
Anthropic发布Fable 5.1：科研、编程能力翻倍，成本最高降45%
当地时间9月1日，Anthropic推出Claude Fable 5.1和Claude Mythos 5.1。Fable 5.1科研、编程能力翻倍，成本最高降45%，还能解决实际问题，此次模型竞争转向多方面综合较量。
逛完WAIC，我们发现这家芯企已经把端侧AI“场景落地”做实
7月17 - 20日，世界人工智能大会召开，端侧AI成热点。瑞芯微展台展示大模型、Agent、AI+应用，多方案已量产落地，其双轨架构优势突出，还规划了产品路线图。
显卡为什么卖得越来越贵？NVIDIA 副总裁：别争了，摩尔定律早就死透了
NVIDIA应用深度学习研究副总裁Bryan Catanzaro在播客中指出，嘲笑中国AI“套壳抄袭”是偏见，中国在开源协作上是全球领跑者。他认为摩尔定律已死，显卡难降价，还分享了对开源闭源、模型技术等看法。