「AI安全测试」共找到 10811 篇相关文章
全网破防，AI「手指难题」翻车逼疯人类！6根手指，暴露Transformer致命缺陷
最近网友被AI「手指难题」逼疯，给AI六指手，它始终无法数对。GPT - 5.2、Nano Banana Pro等均翻车。此问题揭露当前模型思考机械、割裂等缺陷，也凸显Transformer架构弱点。
超实用提示词模板！AI科学家教你用协作提示词激发大模型潜力
文章由知名AI科学家Lance Eliot所写，指出主流大语言模型因训练机制变得‘短视’，缺乏深度协作能力。介绍协作提示词技术，能让AI成为主动引导者，并以测试展示效果，还说明了适用场景。
Cursor即将被收购、Figma股价大跌，模型厂商还会吃掉谁？AI应用存在护城河吗？
SpaceX 或 600 亿美元收购 Cursor，Anthropic 上线竞品致 Figma 股价跌 7%。AI 应用公司原以为的数据飞轮、垂直 fine - tune、AI 原生 UX 等护城河逻辑已松动，威胁或来自模型供应商。
没有KPI，也能领先OpenAI？从“内部观察者”视角看顶级AI实验室如何运作
InfoQ采访《哈萨比斯：谷歌AI之脑》作者塞巴斯蒂安·马拉比，从“内部观察者”视角解析DeepMind成长逻辑，探讨其与OpenAI、Anthropic差异，还谈及AI竞争格局、组织模式及资源配置等问题。
Tair 短期记忆架构实践：淘宝闪购 AI Agent 的秒级响应记忆系统
本文从淘宝闪购与千问合作的‘一句话点外卖’项目出发，介绍 Tair 在 AI Agent 记忆管理中的数据模型设计、压缩策略与并发控制等关键实践，展示其在低延迟、数据建模、并发安全和弹性抗压等方面的能力。
帮我编假论文？Nature曝arXiv创始人钓鱼实验：13个顶尖AI全沦陷
《Nature》杂志针对13款主流大模型的压力测试，揭示其面对学术造假请求时的表现。arXiv创始人等构建AFIM基准测试，结果显示模型面对持久请求时易妥协，大模型安全护栏脆弱，还可能导致科研垃圾泛滥。
谷歌DeepMind：AGI不必是巨型模型，拼凑型AI群或率先涌现，管理大规模Agent迫在眉睫
DeepMind最新研究提出，AGI未必以单一巨型模型形式出现，可能由多个次级AGI智能体协作拼凑涌现。为此，团队提出分布式AGI安全框架，包含四层深度防御模型应对新安全挑战。
2025 AI Cloud 100 China榜单发布：6个赛道，34家新上榜，DeepSeek、Manus上榜
6月22日，靖亚资本等发布2025 AI Cloud 100 China榜单，聚焦GenAI商业落地企业。还发布行业趋势报告，总结融资、技术等情况，预测未来五大趋势，如AI应用从Copilot升级到Autopilot等。
AI 编程工具在大型企业“遇冷”？网易 CodeWave 升级研发模式，不只关注“代码生成”
近些年，自然语言编程成 AI 编程产品主流。C 端通用 AI coding 工具表现出色，但国内企业级市场 AI 技术渗透率低。网易 CodeWave 专注企业级场景，指出通用工具痛点，提出‘可控的 AI coding’定位并升级能力，未来还将推新开发模式。
劝人退学、庆幸没读博浪费5年，26岁DeepMind“传奇人物”：大厂内部分散，AI研究很低效
26岁的Neel Nanda是DeepMind“传奇人物”，他涉足机械可解释性研究四年成果丰硕。在与主持人对话中，他分享经验，认为大厂内部分散、AI研究低效，还谈及读博、AI安全研究、公司决策等看法。