「AI安全评估」共找到 10227 篇相关文章
告别AI“乱画图表”！港中文团队发布首个结构化图像生成编辑系统
现有AI生图工具在结构化图像生成上问题多，理解与生成能力有鸿沟。港中文等校联合团队提出首个综合性方案，涵盖数据集构建、模型优化、评估基准三大模块，助多模态模型画准图，推动其发展。
为什么 AI 搞不定体力活——对话清华大学刘嘉：这才是生物智能最难攻克的“万里长征” | 万有引力
本文是对清华大学刘嘉教授的访谈。他回顾 AI 研究经历，谈 AI 寒冬、研究错误及第一性原理，还分析学术界与工业界差异、AI 现状与挑战，指出大模型缺创造力，人应与 AI 共进化。
AI4Science 图谱，如何颠覆10年 x 20亿美金成本的药物研发模式
文章指出AI for Science让生命科学与数字互联网融合，加速科学发现。以四象限为框架，梳理了Biology Foundation Model、AI Scientist等玩家，介绍相关模型和公司，展示其对药物研发流程的重塑。
专治智能体盲跑！微软发布AI Agent 5大可观测性，打通任督二脉
今天凌晨微软官网发布AI Agent 5大可观测性最佳实践，解决智能体盲跑等难题。介绍了智能体可观测性概念和好处，展示5个应用案例，还阐述5大实践，如选模型、持续评估、集成CI/CD等。
Meta和Scale AI闹翻！砸143亿买的高管跑路，业务也合作不下去
两个多月前，Meta豪掷143亿美元收购Scale AI 49%股份，如今双方在团队融合、业务合作方面产生纠葛。原Scale AI高管离职，Meta研究人员抱怨其数据质量低。双方后续发展不尽如人意。
Cursor即将被收购、Figma股价大跌，模型厂商还会吃掉谁？AI应用存在护城河吗？
SpaceX 或 600 亿美元收购 Cursor，Anthropic 上线竞品致 Figma 股价跌 7%。AI 应用公司原以为的数据飞轮、垂直 fine - tune、AI 原生 UX 等护城河逻辑已松动，威胁或来自模型供应商。
真实科研水平集体不及格！全新基准SFE给主流多模态LLM来了波暴击
上海人工智能实验室AI4S团队推出SFE评测基准，首创三级评估体系，涵盖五大科学领域66项任务。评测显示主流MLLMs在高阶科学任务有挑战，不同模型、学科表现有差异，还构建了SciPrismaX平台推动AI科学评估生态发展。
没有KPI，也能领先OpenAI？从“内部观察者”视角看顶级AI实验室如何运作
InfoQ采访《哈萨比斯：谷歌AI之脑》作者塞巴斯蒂安·马拉比，从“内部观察者”视角解析DeepMind成长逻辑，探讨其与OpenAI、Anthropic差异，还谈及AI竞争格局、组织模式及资源配置等问题。
Tair 短期记忆架构实践：淘宝闪购 AI Agent 的秒级响应记忆系统
本文从淘宝闪购与千问合作的‘一句话点外卖’项目出发，介绍 Tair 在 AI Agent 记忆管理中的数据模型设计、压缩策略与并发控制等关键实践，展示其在低延迟、数据建模、并发安全和弹性抗压等方面的能力。
谷歌DeepMind：AGI不必是巨型模型，拼凑型AI群或率先涌现，管理大规模Agent迫在眉睫
DeepMind最新研究提出，AGI未必以单一巨型模型形式出现，可能由多个次级AGI智能体协作拼凑涌现。为此，团队提出分布式AGI安全框架，包含四层深度防御模型应对新安全挑战。