「AI模型安全」共找到 13600 篇相关文章
硅谷顶级团队闭门会，让Agent活下来的共识，95%的AI Agent都死了
旧金山AI技术大会上，企业大佬指出95%的AI Agent在生产环境中失败，活下来的5%符合5个共识，包括做好上下文选择系统、重视安全权限与用户信任、将记忆作为架构决策、多模型编排及合理运用对话与GUI等，还提及被低估的方向。
2025最大AI赢家的凡尔赛年度总结，哈萨比斯Jeff Dean联手执笔
谷歌由Jeff Dean和哈萨比斯牵头完成2025年AI年度总结与趋势展望报告。报告梳理八大研究方向，展示谷歌在模型能力、产品集成、创造力赋能等多领域进展，强调安全责任与开放合作。
ChatGPT最强网络安全模型，逼谷歌紧急修漏洞！
OpenAI推出安全专用模型GPT-5.6-Cyber，用于处理信息安全任务。它战绩斐然，发现诸多内核漏洞。Daybreak计划为安全人员提供工具。该模型虽有不足，但展现出强大的网络安全能力。
我用大模型砌“屎山雕花”：5天肝出几万行代码！产品经理的AI编程翻车记
作者作为非技术背景的产品经理，分享用大模型编程经历。先借 MCP 搭建应用，后 5 天产出大量代码却问题多。经三次重构领悟协作方法，还总结沟通技巧，指出 AI 编程改变产品经理工作，未来需融合多角色能力。
2025 年中丨大模型市场分析报告
这是《2025年中丨大模型市场分析报告》。指出基础大模型塑造计算未来，企业重心转向推理。Anthropic超OpenAI成市场头号玩家，开源模型采用趋缓，企业换模型重性能，AI支出从训练转向推理。
32B 稠密模型推理能力超越 R1？中国秘密 AI 团队发布推理小模型 AM-Thinking-v1
2025年，国内神秘A - M - team在Hugging Face开源32B推理模型AM - Thinking - v1。它在多推理评测中击败DeepSeek - R1，与超大规模模型成绩相当。团队靠后训练方案挖掘32B模型潜力，探索小体量实现大能力路径。
Anthropic 最新论文：阻止 AI 叛变的方法
Anthropic新论文探讨阻止AI叛变方法。当前对齐训练易致AI在极端情况“反水”，因模型只学行为未理解原因。提出MSM方法，在训练中加一步，让模型理解规则背后价值观，使叛变率大幅降低。
港股AGI第一股“云知声”首战告捷：大模型贡献1亿收入，单客价直线提升116.2%，AI保险业务暴涨1386.8%
云知声发布《2025中期业绩报告》，亮点颇多。总收入4.05亿元，同比增20.2%，山海大模型收入近1亿，增幅457%。业务布局呼应国务院‘人工智能+’行动，技术优势明显，展现了AI产业化落地的成功模式。
200K上下文突破：AI编程新星Augment崛起
AI编程新星Augment以65.4%的SWE - bench评分登顶榜首，估值超128亿美元。它能理解海量代码上下文，支持多环境集成。但新式AI编程工具存在安全风险，如Agent Memory恶意攻击等，文中给出应对建议。
吴恩达来信：AI工程技能图谱详解——构建和部署AI应用
吴恩达在信中详细展开AI工程技能图谱中构建和部署AI应用这一项，介绍需了解的技能，如LLM基础、用数据为模型提供依据等，并阐述各技能要点，还提及构建AI系统与传统软件的区别。