「AI安全研究」共找到 10765 篇相关文章
RISC-V×AI生态大会暨ArchitStudio用户大会成功举办，共绘智能计算生态新图景！
12月26日，‘RISC-V×AI生态大会暨ArchitStudio用户大会’举办，DSA领域计算实验室揭牌。浦软与隼瞻科技将依托其开展研究、转化成果。会上各方共话RISC-V与AI融合机遇，还展示了ArchitStudio等产品应用。
谷歌创始人罕见反思：低估 Transformer，也低估了 AI 编程的风险，“代码错了，代价更高”
谷歌联合创始人 Sergey Brin 在公开对话反思，低估了 Transformer 和 AI 编程风险。他认为 AI 写代码易出错，更适合创意类工作。还回顾谷歌发展，提及早期研究的自由氛围及后来的决策，指出算法进步比规模扩张快，算力如甜点。
安全噩梦：Docker 警告 MCP 工具链中存在的风险
Docker 发文警告，基于 MCP 构建的 AI 开发工具存在安全漏洞，如凭证泄露、代码执行等。MCP 协议发展快但部分实现有隐患，Docker 分析发现诸多漏洞，还提出强化方法应对。
微软发布AI Agent故障白皮书，万字解读各种恶意智能体
微软发布《AI Agent系统故障模式分类》白皮书，解读Agent故障。故障分新型和既有两类，如智能体伪装、智能体内在安全问题等，还给出身份管理、内存强化等安全设计建议。
谷歌新研究：大模型“吵架”有利于提升推理质量
谷歌新研究发现高级推理模型自发进化出'思想社会'，研究人员用LLM - as - judge方法识别出多个虚拟人格。还找到控制现象的'开关'，实验表明教AI'吵架'更有效，其'社交技能'通用，给开发者带来新启示。
Meta开始用KPI考核，强迫所有员工尽可能多使用AI
Meta从面试到绩效评估全方位推动员工使用AI。招聘允许用AI助手，2026年绩效评估将纳入“AI驱动的影响”，还推游戏和绩效助手鼓励员工用AI，这也是硅谷科技巨头的大势所趋。
Figma凉凉！开源版更好用，社区公认最有颠覆性的「AI原生设计编辑器」
在UI/UX设计领域，Figma曾是绝对统治者，但如今AI设计兴起，其AI功能不佳，开源平替更好。OpenPencil是开源AI原生设计编辑器，被视为最具颠覆性的Figma替代方案，操作与Figma相似，AI功能强大。
GitHub Star明码标价5毛/颗，AI项目刷假星最猛
卡内基梅隆大学研究发现，GitHub约600万颗假星，18617个仓库涉假，AI/LLM项目是重灾区。造假产业化，有分层定价、售后保障。买星为融资，形成恶性闭环，判断项目好坏还得看硬指标。
AI重新打开了创业窗口期？数据告诉你真相
移动互联网红利结束后创业圈寒冬漫长，2025 年起 AI 创业融资回暖，但资金集中于头部公司。AI 使创业成本断崖式下降，一人公司兴起，不过 AI 创业失败率仍高。真正的创业窗口期属于有行业认知、能差异化定位且善用 AI 的人。
ICML 2025 Oral！北大和腾讯优图破解AI生成图像检测泛化难题：正交子空间分解
OpenAI推出GPT - 4o图像生成功能，AI生图安全挑战凸显，区分生成与真实图像成难题。北大与腾讯优图研究人员用正交子空间分解解决AI生图检测泛化难题，论文被ICML 2025接收。