「安全评估」共找到 1559 篇相关文章
大模型Agent的核心还是prompt？ 目前有什么挑战？
文章指出大模型Agent核心并非Prompt，而是工程化架构设计、工作流编排与数据闭环。介绍Flow Engineering等概念及工具，分析规划、记忆、工具使用要点，还谈及开发面临的延迟、稳定等挑战，并给出应对建议。
破防了！全球顶尖AI惨败，人类最后防线竟是「重启试试」？
GSMA联合权威组织发起全球电信AI故障排查挑战赛，吸引超1000支队伍。赛事依托权威评估框架，设丰厚奖励，分多个赛道，还将开展智能体任务，预示电信运营模式重构。
首个智能体商业信任协议来了！支付宝携手千问 App、淘宝闪购等发布 AI 商业协议 ACT
1 月 16 日，支付宝联合千问 App 等伙伴发布 ACT 协议，它是中国首个面向 Agent 商业需求的开放技术协议。该协议打造 AI 与服务平台‘通用语言’，解决授权、安全等问题，让操作更放心，还降低商家对接成本。
LLM 竟然会内省！Anthropic 整了个大活：首次揭开 AI 意识
Anthropic最新研究《大语言模型中涌现的内省意识》，首次通过直接操控模型内部状态验证AI能否觉察自己思想。研究采用概念注入技术，发现AI有内省能力，且不同模型表现有差异。
突发！中国商务部已启动对Meta收购Manus的审查。
据英媒爆料，中国商务部启动对Meta约20亿美金收购AI初创公司Manus审查，重点评估其技术出口管制及地缘政治风险，审查处早期阶段，此事件给AI创业者释放监管信号。
给你家 AI Agent 装个「长期记忆」，这个开源库一行代码搞定
Memori是开源的LLM记忆引擎/Python库，为聊天机器人等提供统一长期记忆层。它功能亮点多，如自动记忆分类、精准召回等，集成成本低，还有进阶玩法和企业安全能力。
多人会话视频生成新突破：香港科技大学，浙江大学用单人数据实现多人交互视频生成
香港科技大学、浙江大学等开源 AnyTalker，提出音频驱动多人交互生成新范式。它用创新机制和两阶段训练策略，以少量数据实现多人视频生成，还构建评估指标，性能超现有方法。
Claude Opus 4.5 × Agent Skills：从第一性原理深入剖析
文章深入剖析Claude Opus 4.5与Agent Skills，介绍了Claude Opus 4.5发布，结合Agent Skills能让模型有专业级能力。还阐述Agent Skills高级设计模式、内部架构及执行生命周期，揭示其工作机制与优势。
这款开源AI卡片笔记，让我果断卸载了Obsidian！
开源君推荐开源项目Blinko，它是自托管、AI驱动的个人笔记工具，主打“快”与“智能”，将RAG技术和LLM能力融入笔记管理，数据自主可控，适合注重数据安全和知识管理的人。
AI引发K型分化：Gemini 3 加剧技术劳动力分化，判断力为王，基础岗位将被AI完全替代，程序员也不例外
2025年11月Google发布Gemini 3，依托多模态MoE架构和“Deep Think”模式，在软件工程等领域实现推理能力质的飞跃。它使前端开发工作重心转移，重构软件工程工作流，赋能白领但带来隐患，还冲击劳动力市场，提升软件掌握门槛。