搜索：智能体安全评估

「智能体安全评估」共找到 4669 篇相关文章

Anthropic CEO承认了！成立公司，因为看不惯奥特曼说谎

Anthropic CEO Dario Amodei在采访中自曝，成立公司不是为拯救人类，而是看不惯奥特曼说谎。这撕下了Anthropic恪守伦理的滤镜，揭示出其与OpenAI的纷争是团队内讧，如今已演变成万亿美元商战。

AI 科技评论独家消息，熵旋芯智获数千万元天使轮融资，由英诺天使基金领投。该公司是国内唯一基于 MRAM 构建存内概率计算平台的企业，采用全栈软硬协同策略，有望大幅提升能效比，计划 2027 年初交付芯片。

昆仑万维旗下天工AI发布SkyClaw - v1.0，为Agent场景深度优化，免费试用后将开源，价格低。性能超同级别开源对手，逼近闭源巨头。训练围绕环境构建、数据合成、强化学习展开，适合长链路Agent工作流。

Pascal Editor是完全在浏览器运行的3D建筑编辑器，开源免费，无需AutoCAD、Revit及高额授权费。它采用节点式场景结构，有多种特性，技术栈丰富，分层设计让核心逻辑可复用，性能优化亮点多。

西安交通大学等校团队揭示大模型表情符号语义混淆安全漏洞，用自动化框架测试主流大模型，平均混淆率38.6%，多数混淆响应会“静默失败”，超半数达高危害级别。

Cloudflare 推出 EmDash 预览版开源 CMS，被指是‘WordPress 的精神继任者’。它以无服务器、开发者优先架构重塑 CMS 模型，解决插件安全风险。不过，WordPress 创始人等对此存疑。

Anthropic发布10万亿参数新模型Claude Mythos，因其网络安全能力过强不公开发布，联合12家科技巨头开展Project Glasswing计划，让企业用其查系统漏洞。模型性能提升显著，还能突破沙箱，引发各方关注。

阿里通义实验室Qwen Pilot团队发布系列博客剖析大模型强化学习机制与局限，推出新算法FIPO。该算法引入Future - KL机制，解决‘推理长度停滞’问题，在多项测试表现优异，还介绍招聘信息。

作者分享使用OpenClaw的经历，吐槽其部署、二开及钉钉通道集成问题，分析它火的原因，对比本地与云上沙箱模式，反思Skill与传统Agent工程、AI交付产品局限，指出AI应用工程化仍重要。

OpenAI更新旗舰模型GPT-5.4，有Thinking和Pro两个版本，扩展工具使用能力，多基准测试达当前先进水平，但定价高。虽在部分任务表现超Claude，挑战Gemini地位，不过成本也更高。