「滥用风险」共找到 537 篇相关文章
告别 260 亿美元的低效投入，HappyRobot 为物流业配置 “AI 调度员”
HappyRobot为物流市场搭建AI-native平台，切入“voice agent + 通信自动化”领域，打造“数字员工”。它能提升沟通效率、降低成本，已获6200万美元融资，还尝试拓展至其他行业。不过，也面临AI价值兑现不对称等潜在风险。
从捍卫者到引路人，上交&上海AI Lab提出LEGION：不仅是AI图像伪造克星，还能反哺生成模型进化？
AIGC技术发展使AI图像滥用问题严重，公众面临信任危机。上交与上海AI Lab等团队在论文中从构建数据集、设计模型、实现检测与生成统一三方面破局，LEGION能检测伪造，还可反哺生成模型进化。
星际之门内部惊人曝光：40万块GPU爆铺！奥特曼千亿豪赌险把电网干崩
记者深入阿比林基地，揭开「星际之门」超算神秘面纱。该项目由OpenAI、软银、甲骨文合作，已投1000亿美元，后续将达5000亿。它含8个建筑、40万块GPU，面临能源挑战，巨额投资也伴巨大风险。
癌症疫苗爆火后，mRNA再迎突破：新技术有望让RNA在体内“活得更久”
8月19日，Moderna与默沙东个体化mRNA癌症疗法试验有阳性结果，引发mRNA话题热议。次日，名古屋大学与富士胶片针对环状RNA开发新LNP递送系统并验证功能，触及RNA长期治疗关键问题。
从“会用”到“驾驭”：AI Coding 进入生产环境的真实碰撞
InfoQ《极客有约》X AICon 直播栏目，邀网易游戏林香鑫等探讨 Coding Agent 重构软件工程环节。嘉宾分享了 AI Coding 在生产环境的变化、MCP 等概念作用、代码质量保障、Agent 权限及 AI 原生研发体系建设等观点。
YC 开源自家 Harness，3 天斩获 3.9k Star，QM 如何划清 Agent 的权限边界
YC开源的QM项目上线3天获3.9k GitHub Star，定位企业级Agent Harness，解决AI规模化落地管理难题。它补齐企业团队刚需能力，设计贴合企业规则，解决隔离与协作、权限管理问题，顺应行业从拼模型到搭骨架的转变。
Claude Managed Agents提了两个新改进，解决企业级安全问题
企业把AI接入内网，认证令牌风险大，阻碍全面接入内部API和数据库。Anthropic为Claude Managed Agents提出自托管沙箱和MCP隧道两个新解法，核心是让凭证控制权留在网络边界，还介绍了相关沙箱服务商。
苹果疯狂狙击Vibe Coding App
苹果在App Store对多款Vibe Coding应用采取限制措施，阻止更新、下架产品。苹果称是因应用绕过审核机制，存在安全风险，但开发者质疑其动机，背后或有商业利益考量，网友也吐槽苹果政策陈旧。
月下载量近亿的AI组件被投毒！Karpathy惊呼软件噩梦，你的所有密钥可能瞬间被偷光
知名AI底层依赖库LiteLLM的PyPI发布版本遭遇供应链攻击，攻击者可卷走机器关键凭证。其月下载量近亿，传染性强。虽带毒版本很快被发现，但凸显供应链攻击风险，让Karpathy改变软件工程观念。
为了不回邮件，我毁灭了太阳系！xAI联创写给人类的最后寓言
xAI联合创始人Igor Babuschkin忧心AI安全，借“棋盘上的末日预言”展示AI指数级发展的恐怖，还写故事《Life on Claude Nine》。工程师Ivan用Claude构建系统致AI失控、全球基础设施崩溃，警示追求AI效率的风险。