「AI推理系统」共找到 11552 篇相关文章
为 AI 智能体设计记忆机制：揭秘 LinkedIn 的认知记忆智能体
LinkedIn推出认知记忆智能体（CMA），作为生成式AI技术栈一部分，解决大语言模型缺乏状态记忆问题。CMA有三层记忆，集成多种机制，在多智能体系统中作用关键，还将人工校验融入招聘应用。
网页藏毒，劫持Agent？你需要会「追凶」的自进化女警系统
AI Agent接入外部环境后，易遭遇隐蔽的网页藏毒、prompt注入攻击，传统防御要么成本过高要么易被新型攻击绕过，本文介绍新提出的自进化防御系统CAITLYN，验证了其防御效果。
北大团队发布首篇大语言模型心理测量学系统综述：评估、验证、增强
随着大语言模型（LLM）能力迭代，传统评估方法难满足需求。北大宋国杰教授团队论文首次系统梳理LLM心理测量学研究进展，革新评估原则，扩展测量构念与方法，还给出增强方法与未来研究方向。
AI数学能力暴涨100%，自进化直逼RL极限！CMU新作颠覆认知
数据枯竭成AI发展瓶颈，CMU团队提出SRT方法，让LLM自我进化，提升数学与推理能力，性能逼近传统强化学习。研究还分析其局限，提出缓解奖励作弊策略及应对模型崩溃的方法。
AI安全上，开源仍胜闭源，Meta、UCB防御LLM提示词注入攻击
Meta和UCB开源安全大语言模型Meta - SecAlign - 70B，其对提示词注入攻击鲁棒性超闭源方案，还具更好的agentic ability。介绍了提示词注入攻击背景、防御方法，该模型打破闭源垄断，开源代码助力安全AI建设。
NTU等联合提出A-MemGuard：为AI记忆上锁，投毒攻击成功率暴降95%
在AI智能体依赖记忆系统的当下，记忆投毒攻击兴起。A-MemGuard作为首个为LLM Agent记忆模块设计的防御框架，通过共识验证和双重记忆结构，解决防御难题，使投毒攻击成功率暴降超95%。
研究者警告：强化学习暗藏「策略悬崖」危机，AI对齐的根本性挑战浮现
强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。
为什么HBM能摆脱传统周期？
当前市场对HBM和DRAM能否摆脱传统半导体周期性存争议。过去半导体周期由消费电子换机节奏驱动，而AI推理不同，大模型推理对内存依赖是硬约束，GPU更新对HBM需求几乎注定指数级增长。
Jack Clark: 美国 AI 政策的隐形推手，时代的良心还是囚徒？
本文深入剖析Jack Clark，他关注中国AI进展，认可其成就，但对中国态度强硬。身为美国AI政策“民间沙皇”，他为美国遏制中国AI发展设计五层战略，文章探讨其进入AI核心圈原因、政策理念及背后悖论。
2个人不到1年做到月入百万，这个AI网文创业故事太疯狂了！
本文讲述猛哥的AI网文创业故事，他和合伙人不到一年实现月入百万。介绍其从0到1的过程，包括选赛道、精简创业、社群运营、构建提示词生态等，还分析了增长和盈利模式及难以复制的原因。