「风险防范」共找到 491 篇相关文章
对话张笑宇：一个科技史学者选择成为“AI降临派”｜甲子光年
科技史学者张笑宇成“AI降临派”。他以“人类当量”和成本说明人类与AI的能力代差，提出全新治理架构，还谈AI应用困境、情感陪伴风险等，认为人类要与AI商定未来。
AI时代UI已死？Karpathy称产品要给AI开后门，还分享了自己的AI编程心法
Andrej Karpathy指出，只有复杂UI、无脚本支持、基于不透明二进制格式的软件产品，在AI时代会被淘汰。他给出风险评估清单，还分享AI编程心法，探讨编程中‘验证鸿沟’问题。
鹅厂带大家“养虾”，昨天刚装、今天就裸奔！田渊栋：OpenClaw就像拿着所有秘密的笨小孩出门办事
OpenClaw 掀起安装热潮，SetupClaw 代装收费高，小米推手机版。腾讯云线下帮装机，却出现安全暴露和扣费问题，且 OpenClaw 安全事故频发，官方收紧权限但仍有风险，中美态度不同。
OpenAI试图绑架美国政府，奥特曼还有救命底牌？
OpenAI首席财务官Sarah Friar提出美国政府应为AI芯片投资提供贷款担保，引发争议。奥特曼澄清立场，称不希望政府担保。同时，OpenAI与七巨头利益捆绑，AI投资热潮潜藏泡沫风险。
Visual Studio 正式支持 MCP
2025年8月微软宣布模型上下文协议（MCP）在Visual Studio正式可用，为AI智能体与外部工具连接提供一致协议。开发人员可配置文件连接，管理员能管理使用。但存在限制和安全风险。
用Rust重写OpenClaw，Transformer作者下场造了安全版「龙虾」
Transformer八子之一Illia Polosukhin用Rust构建安全版OpenClaw——IronClaw。他指出OpenClaw有数据和资金安全风险，IronClaw以安全为核心，有多项安全设计，未来还会增加策略验证等能力。
The Batch: 917 | 全球 AI 峰会彰显乐观态势
第四届全球人工智能峰会在新德里举行，议题从理论风险转向推动AI惠益全球传播。逾85国背书《新德里人工智能影响力宣言》，顶级AI企业布局印度，人权组织批评峰会在权利保护上收效甚微。
利用大模型检测钓鱼邮件:方法，效果及数据集
随着企业安全防范增强，钓鱼邮件成重要攻击手段，大模型检测方法盛行。日本论文详细披露检测方法和实验数据，含解析解码、简化邮件、生成prompt、调用LLM四步，还介绍数据集及评估了四个模型效果。
辛顿高徒压轴，谷歌最新颠覆性论文：AGI不是神，只是「一家公司」！
2025年12月19日，谷歌DeepMind发布论文《分布式AGI安全》，提出AGI可能是“拼凑型”，由众多专才模型组成，在经济上更划算。还指出其存在风险，如默契合谋、责任消解等，并给出基于“防御纵深”原则的安全框架。
Agentic AI的第三种范式来了，16家机构提出「伴身智能体」
16家海内外高校与科研机构的22位研究者提出ComBodied Agents新范式，它围绕人的长期状态与主体性构建。论文给出闭环技术框架与评测标准，还提到研究难点与风险，也为产品实践提供指导。