「AI模型安全」共找到 13633 篇相关文章
「你是专家」竟成AI幻觉毒药？新论文一巴掌揭穿提示词最大骗局
最新论文证实，「让AI装专家」会可测量、持续地降低模型的准确率。研究发现，Persona Prompting的效果依赖多因素，专家人设提升的多是「对齐感」。为解决问题，研究人员发明PRISM算法。
AI不是比人聪明，是输得起！菲尔兹奖得主点破OpenAI十项成果
OpenAI发布内部版模型Astra的十项成果，引发数学界震动。菲尔兹奖得主Timothy Gowers分析其成果，指出AI优势在‘输得起’，还探讨找例方法、模型短板，给出训练建议与衡量跨越门槛的标准。
Copilot 创始工程师：大多数 AI 编码“就像开着法拉利去买牛奶一样
GitHub Copilot 创始工程师 Neel Sundaresan 正在构建 IBM Bob 智能编码工具，已有 8 万 IBM 开发者使用。他认为多数 AI 编码成本高，Bob 会按需调度模型。他还对智能体 AI 市场发表了看法，指出其有价值也有风险。
如何让AI帮你做前端自动化测试？我们这样落地了
本文介绍阿里基于AI的UI自动化测试框架在专有云质量保障的实践。框架用开源browser - use等工具，采用自然语言驱动用例、动态元素定位等机制，还应对了大模型幻觉等挑战，也提及构建企业级数据分析Agent方案。
专为“超大模型而生”，新一代训练引擎 XTuner V1 开源！
9月8日，上海AI实验室开源书生大模型新一代训练引擎XTuner V1。它能应对复杂训练场景、速度更快，尤其在超大规模稀疏混合专家（MoE）模型训练中优势显著。还将一并开源AIOps工具DeepTrace与ClusterX。
6.1B打平40B Dense模型，蚂蚁开源最新MoE模型Ling-flash-2.0
蚂蚁百灵大模型团队开源 MoE 大模型 Ling-flash-2.0，其以轻量级配置展现卓越性能，在推理速度、任务性能、部署成本间找到新平衡，为大模型‘参数膨胀’提供新路径，还在多领域应用表现出色。
前钉钉最年轻副总裁的AI冒险：当AI开始“雇佣”人类｜甲子光年
前钉钉最年轻副总裁王铭带领攀峰智能K2 Lab获数千万元种子轮融资。其首款产品拟人化商业专家Moras是全球首个面向超级个体的商业化Agent，解决海外达人变现痛点，采用‘底薪+提成’模式，还探索‘AI雇佣人’新商业模式，目标成AI时代的Shopify。
全员 token-maxxing，一场没人敢停的军备竞赛｜五源孟醒 AI 观察
2026年3月底，五源资本合伙人孟醒赴硅谷考察，回国后分享一手观察。当前AI迭代极快，硅谷陷入全员token - maxxing军备竞赛，xAI团队雪崩，工程师和研究员焦虑，英伟达掌控算力，估值体系重写，还出现安全危机。
AI安全上，开源仍胜闭源，Meta、UCB防御LLM提示词注入攻击
Meta和UCB开源安全大语言模型Meta - SecAlign - 70B，其对提示词注入攻击鲁棒性超闭源方案，还具更好的agentic ability。介绍了提示词注入攻击背景、防御方法，该模型打破闭源垄断，开源代码助力安全AI建设。
真正的一句话修图：Gemini 用香蕉模型给出了图像生成的分水岭
Google新模型Gemini 2.5 Flash Image可在AI Studio体验。它有多图融合、角色一致性等能力，能实现自然语言编辑图像，速度快、价格低、API可用，虽有中文体验等问题，但有望让AI视觉工具进入工程化时代。