「安全评估」共找到 1558 篇相关文章
追更太累，桌面版AI帮我把 OpenClaw 的剧情补齐了
作者因OpenClaw信息爆炸跟不过来，想到让AI帮忙。介绍了AI播客自动化案例及Cowork短板，引出天工Skywork桌面版。用其处理视频、监控AI社区，还构建安全屏障，该工具打通内容创作和信息监控闭环。
Mistral AI发布一站式编程助手Mistral Code
法国开源大模型平台Mistral AI发布一站式编程助手Mistral Code，旨在解决企业开发人员使用AI编码工具时的合规与安全障碍。它基于Continue开发，集成四个大模型，还能在私有代码库微调，获早期客户认可。
奥特曼马斯克豪言：我们已进入奇点！AGI加速窗口已至
新智元报道，奥特曼和马斯克都认为奇点已至，当下处于AGI加速窗口。OpenAI曾靠资源猛追让Codex逆袭。但AI发展也引发担忧，如人类能否保持理智、安全对齐进展不明等。
Sam Altman被纽约客指控撒谎成性
纽约客调查指Sam Altman撒谎成性，如将安全承诺当融资工具，骗董事会等。Paul Graham私下指其撒谎，公开却替他洗地。出走的Dario创办Anthropic，收入反超OpenAI，产品更受开发者青睐。
OpenAI 3万亿美元测试，AI首战44个行业人类专家！
OpenAI推出GDPval评估体系，通过真实工作任务审视大模型潜力，揭示AI从实验室走向3万亿经济战场的可能。早期测试显示，Claude Opus 4.1表现最佳，GPT系列进步快，模型在部分任务逼近人类专家水平。
扣子要做 Agent 时代的 Infra，附开源版搭建全流程
扣子宣布开源 Coze Studio，后端用 Golang，前端用 React 和 TypeScript，基于微服务架构。借助火山引擎 ECS 可一键部署，还能更换自定义模型。官方表示开源是为顺应趋势、确保安全及获开发者反馈。
告别「一条路走到黑」：通过自我纠错，打造更聪明的Search Agent
为解决知识实时性和推理复杂性挑战，搜索智能体（Search Agent）应运而生，但缺乏自我纠错能力。腾讯联合清华提出 ReSeek 框架，引入动态自我修正机制，还构建 FictionalHot 数据集评估，实验效果良好。
AI黑化如恶魔附体！LARGO攻心三步，潜意识种子瞬间开花 | NeurIPS 2025
在NeurIPS 2025，哥大与罗格斯提出LARGO，它不改提问，直接在模型“潜意识”动手脚，绕过安全防护输出不该说的话。其分三步攻击，成功率高、隐蔽且迁移性强，暴露大模型根本性弱点。
首个多模态工业信号基座模型FISHER，权重已开源，来自清华&上交等
清华、上交等团队联合发布首个多模态工业信号基座模型 FISHER，用搭积木法对异质工业信号统一建模。技术报告和权重已开源，还提出 RMIS 基准评估性能，实验显示其泛化能力强。
AI 怎么自我改进？Lilian Weng 的答案是：先写好Harness
提出 Agent 基本公式的 Lilian Weng 探讨 AI 递归自我改进，强调‘harness’重要性，介绍其设计模式、优化方法，还提及未来挑战与有用基准。如 harness 工程额外包含工作流设计等，优化方式多样但也面临评估器弱等问题。