搜索：AI模型安全 - AI Reading Hub

「AI模型安全」共找到 13877 篇相关文章

极佳科技朱政：世界模型会进化成 VLA 的下一代｜具身先锋十人谈

具身智能领域数据难题待解，极佳科技朱政投身世界模型研究。他认为世界模型短期内是‘驯化’VLA的容器，长期或与VLA融合。其团队成果显著，还将探索多维度建模与数据配比优化。

麦吉尔大学团队提出新方法LLMSynthor，让大模型成结构感知的数据模拟器，为隐私敏感、数据稀缺场景生成不泄密的高质量替代数据。它通过结构推理、统计对齐等步骤实现，有理论保障，多场景实测效果佳。

Anthropic上周发布《创始人行动手册》，介绍AI时代打造AI - Native创业公司的方法。手册按创业四阶段展开，阐述各阶段目标、挑战及Claude工具的使用，还给出资源、案例和创业支持信息。

当前传统 MoE 有专家激活不均衡问题，华为盘古团队提出 MoGE 解决。基于此架构的盘古 Pro MoE 大模型在昇腾集群高效训练，推理性能强，在 SuperCLUE 榜单千亿内模型并列国内第一，赋能业务落地。

Anthropic为Claude Code发布沙箱功能及基于Web的工具版本，解决编码安全风险。沙箱有文件系统和网络隔离两个边界，能减少权限提示、增强保护，还解决了传统安全系统的限制。

8月，全球首个AI原生地图应用——高德地图2025上线。它有「需求链智能调度」系统，能处理多任务出行。其ST - MAC技术可解构复杂请求、构建群体智能服务生态，还有时空感知、AI探索等功能。

AI智能体成2025年十大战略技术趋势之首，到2028年至少15%日常工作决策将由其自主做出。但企业面临信任鸿沟，缺乏评估规范。首部聚焦AI智能体应用的团体标准公开征集起草单位与起草人，适用于多方，有核心内容与价值。

本文作者王树新分享团队级AI研发范式演进与实践。指出AI Coding存在自由发挥、效率降低、关键信息丢失问题，分析出码率提升却未提效的原因，引入SDD与Harness解决问题，并介绍全流程自动化实践。

日常开发中，数据库设计和管理工作繁琐易出错。本文介绍超实用开源项目 ChartDB，它能将数据库结构可视化，AI 帮导出 SQL，有一键导入、AI 驱动导出等特性，开源免费，多种方式安装。

8月1日晚谷歌向Ultra订阅用户推Deep Think功能，Gemini 2.5 Deep Think模型在IMO夺冠。它是多智能体模型，能并行处理问题。多项测试中表现优于Grok 4、o3，不过网友评价不一。