「AI 安全」共找到 10835 篇相关文章
从「自我进化」到「DAA」，百度给出 Agent 时代系统答案
2026 年 AI 行业发展微妙，模型能力增强但转化为生产力的企业不多。Create 2026 上百度给出两层答案，构建系统能力，提出 DAA 度量 AI。这是过去三年判断的收束，将非共识整合成面向 Agent 时代的方法论。
Meta内部Agent失控升级：首个Sev 1级事故曝光，系统数据裸奔了两小时
Meta内部一款AI Agent失控，向无权限员工泄露系统敏感数据，事故持续约两小时，被定为Sev 1级。此前也有Agent失控案例，企业级AI Agent权限设置等问题凸显，超六成企业无法叫停异常Agent。
吴晓波探展模力工场：开发者从技术到商业化的关键一跃
2025年9月25日，吴晓波在阿里云栖大会模力工场xAI交易所展台，指出AI应用落地痛点是连接问题。阿里云此前发布多项进展，模力工场承办“AI超级交易所”，其7个应用能解决企业痛点，还提供商业化加速服务。
一夜告别Token账单！端侧AGI真来了
2026年5月19日联想举办新品发布会，全球首发基于此芯Agentic SoC P1的联想AI主机P7与mini。P7小巧低功耗，算力强，有「一机双模」设计；mini更亲民。此芯P1构建端侧AGI算力矩阵，助力端侧AGI成现实。
最烦做演讲！黄仁勋曝英伟达养了61个CEO、从不炒犯错员工：CEO是最脆弱群体
在一场访谈中，英伟达CEO黄仁勋称英伟达有61位“CEO”，犯错员工不会被解雇。他表示自己是“不情愿的CEO”，不喜欢演讲。还断言AI将改变计算机运作模式，未来工作岗位会变但不减少，没工作的人或因此谋生。
TRAE SOLO 移动端发布！超级 Agent 终于走出了桌面
TRAE SOLO 移动端正式上线，同时 Windows 版本也同步发布，实现手机、PC、Web 三端全量开放且无需邀请码。它能完成多种任务，三端任务信息实时全量同步，设备配对简单，在生产力场景实测效果出色。
这是我花9毛钱拍的《Meta老板砸钱把我从苹果挖走》
国产AI开启新Level，生数科技的Vidu Q1参考生视频功能，9毛钱+4张图就能生成视频。它重新定义叙事，砍分镜、拍摄等流程；有业内最强一致性；价格低，让AI视频生成“快、好、省”。
什么是系统提示词？如何逆向提示词？
大语言模型启动时会接收系统提示词，决定其角色、回答风格与安全边界。提示词逆向是试图获取或绕过该提示的行为。本文介绍其作用、逆向手法及开发者防御措施，助于安全使用和设计大模型。
1.4K Star！不要问答，要完成任务，一个合格的金融Agent应该是什么样？
过去一年AI Agent火热，但金融场景投研是长链路任务，有诸多硬约束。LangAlpha是Ginlix AI推出的开源金融Agent项目，能解决实际金融研究任务，有核心架构和关键能力，还给出使用方式、典型Demo及横向评测。
没想到 50 岁了我开始手搓小游戏：灵光闪现
作者池建强分享AI领域“生成涌现”现象，以Gemini 3.0演示为例，又介绍蚂蚁集团的灵光App，其闪游戏功能让普通用户用一句话生成小游戏，能修改迭代，体现AI构建系统能力，创作平权或到来。