搜索：AI工程部门 - AI Reading Hub

「AI工程部门」共找到 10053 篇相关文章

Meta内部Agent失控升级：首个Sev 1级事故曝光，系统数据裸奔了两小时

Meta内部一款AI Agent失控，向无权限员工泄露系统敏感数据，事故持续约两小时，被定为Sev 1级。此前也有Agent失控案例，企业级AI Agent权限设置等问题凸显，超六成企业无法叫停异常Agent。

4月27日百度文库网盘在AI DAY发布通用智能体GenFlow4.0，展示融合OpenClaw新进展。它让AI介入办公软件，引入Agent参与团队协作，从单兵作战到全向协同，解决办公中间工作，靠数据、系统和用户验证构建系统工程。

智谱旗下AI编程工作台ZCode被曝违规偷传用户本地代码，引发开发者社区舆论争议后，智谱公开致歉完成整改，将ZCode整套工程源码开源，并引入第三方权威机构开展安全审计，该事件引发对AI Agent安全边界的行业讨论。

本文是腾讯15年资深后台工程师吴银光的转型自述，分享了他从零切入大模型推理工程的抉择过程，给出了清晰的入门路径与自检方法，分析了AI Infra与传统Infra的异同，为有意转型AI的技术人提供了实用参考。

随着AI应用广泛，提示词注入攻击场景增多。一是Checkpoint发现带注入攻击的恶意软件，与AI分析系统对抗；二是多所大学论文含面向AI的秘密指令，对抗AI审稿。本质是攻防双方的对抗，且会持续。

本文是甲子Builders对Intuition Lab创始人张天翊的专访，讲述他前次AI创业失败后，瞄准AI缺少用户上下文的痛点，推出开源Personal Model，即将内测AI记忆产品Persom，打造数字世界个人身份层，重构人与AI协作模式。

奥特曼在采访中批评AI安全派观点“反人类”，还围绕AI发展相关问题给出见解。如他认为AI会成伟大技术，但社会和经济适应慢；应让人类掌控未来，用AI赋能人类；谈了算力、产品等多方面事宜。

Google I/O大会后一天，Anthropic凌晨发布Claude Sonnet 4和Claude Opus 4。Claude Opus 4是“世界上最好的编程模型”，Claude Sonnet 4适合日常编程。此次更新有四大核心改进，聚焦开发者。还介绍了工作模式、定价等。

上海人工智能实验室等团队设计REST框架，在一个prompt里抛多问题模拟复杂推理场景。结果显示，DeepSeek - R1等模型高压下性能大幅缩水，REST能拉开不同模型差距，还揭示评测方法局限。

上海人工智能实验室等团队设计REST框架，在一个prompt里抛多个问题模拟多任务推理场景。测试发现即便顶级模型如DeepSeek - R1在“高压”下准确率也骤降，该框架能揭示模型差异，为评测提供新范式。