「AI模型安全」共找到 13988 篇相关文章
独家｜「中科第五纪」完成数亿元A轮融资，率先开启海外商业落地
AI科技评论独家消息，具身智能企业「中科第五纪」近日完成数亿元A轮融资，年内已完成三轮。该公司还收获海外数亿订单。其提出超少样本具身操作大模型等核心技术，形成完整技术体系。
88天登录193次！顶级证据+循证医学，让500万中国医生拥有「神助攻」
国内医生面临高负荷工作与医学知识快速更新的挑战，通用大模型在医学场景中存在高幻觉率问题。阿里健康推出医学AI产品「氢离子」，具备低幻觉、高循证特点，有四层循证架构，还与多方合作构建数据壁垒。
我觉得“Agent”这个词，现在终于有了一个大家都认可的定义了
作者Simon Willison认为现在‘Agent’有了大家认可的定义，即一个AI Agent是为实现目标循环调用工具的大语言模型。还分析了此前难统一定义的情况、‘工具循环实现目标’含义，指出不同人群对‘Agent’理解有偏差。
智能体的记忆管理机制及其潜在风险 | 直播预约
大语言模型（LLM）智能体兴起，记忆机制是核心。本次报告将探讨记忆管理对其性能的影响及潜在风险，展示缓解关键挑战的策略，介绍新攻击范式，揭示安全漏洞，强调需重新审视与建模。
美国具身也没成熟！PI：中国公司何必总当“中国版XX”｜RSS 2026
量子位参加RSS 2026后，发现国内外具身智能关注点有时差。会上听到不少与国内不同的判断，如北美具身智能公司未成熟，中国硬件领先。还探讨了世界模型与VLA、数据、全身智能及产业出海等问题。
Claude不到4%，全军覆没！一场大考撕碎Agent「全自动办公」幻想
新智元报道，UniPat AI的SaaS - Bench实战考卷，用23个真系统、106个任务测试Agent。结果显示，Claude Opus 4.7完全通过分数仅3.8%，多数模型全军覆没，暴露了Agent在真实环境中的四种致命缺陷。
Agent时代，为什么多模态数据湖是必选项？
AI时代，数智化底层是基建深耕。企业要构建多模态数据湖，因其能处理多模态数据，唤醒沉睡数据，驱动业务，还提供工程确定性。火山引擎给出升级路线及选型指南，其多模态数据湖已在多行业落地。
刚刚，Anthropic发布Sonnet 5，性能接近Opus 4.8，但不一定更便宜
Anthropic发布Claude Sonnet 5，称其为最具Agent属性的Sonnet模型。它在推理等方面性能提升，接近Opus 4.8且价格低。安全评估有改善，但网络安全逊于Opus 4.8。已正式可用，有优惠首发价。
GPT-6 Astra全面解析 - “欢迎来到AGI时代。”
GPT - 6 Astra在全球AI大宕机后正式亮相，是全球最智能且最对齐的模型。它有诸多新特性，如操作电脑能力强、ARC - AGI - 3跑分高、审美提升等，但也带来思维链难监控等新问题。
可灵 2.1 首尾帧藏师傅外挂教程：两张图→大片，附万能提示词
作者分享可灵 2.1 首尾帧模型测试与使用教程，解决图片和提示词生成难题。介绍三种拿图法，给出 AI 生成提示词方法及原则，还指出可将流程固化、特效升维，提升视频创作效率与价值。