「AI系统构建」共找到 11013 篇相关文章
Agent 下半场：真正能自进化的 Agent 应该是什么样的？
当下 Work Agent 难以稳定完成复杂长程任务，且经验无法沉淀。EvoMap 提出自组织蜂群架构，通过 AutoResearch 落地验证，探索 AI4AI 方向，构建记忆和连接的三层产品结构，推动 Agent 网络自进化。
人类开发者将消失？斯坦福等打破自动编程神话，回到以人为本
AI编程发展使人们认为人类开发者将消失，但卡内基梅隆等大学研究者提醒，当前AI编程研究陷入追求机器全自动解决任务的怪圈，应转向以人为本，还提出构建人机协作的四大支柱及升级基础设施等建议。
AI安全上，开源仍胜闭源，Meta、UCB防御LLM提示词注入攻击
Meta和UCB开源安全大语言模型Meta - SecAlign - 70B，其对提示词注入攻击鲁棒性超闭源方案，还具更好的agentic ability。介绍了提示词注入攻击背景、防御方法，该模型打破闭源垄断，开源代码助力安全AI建设。
提示词工程、RAG之后，LangChain：上下文工程开始火了！
AI时代，上下文工程正兴起。它是构建动态系统，为LLM提供合适信息和工具以完成任务。随着应用复杂度增加，提供完整结构化上下文比提示词更重要，正成AI工程师重要技能。
NTU等联合提出A-MemGuard：为AI记忆上锁，投毒攻击成功率暴降95%
在AI智能体依赖记忆系统的当下，记忆投毒攻击兴起。A-MemGuard作为首个为LLM Agent记忆模块设计的防御框架，通过共识验证和双重记忆结构，解决防御难题，使投毒攻击成功率暴降超95%。
Jack Clark: 美国 AI 政策的隐形推手，时代的良心还是囚徒？
本文深入剖析Jack Clark，他关注中国AI进展，认可其成就，但对中国态度强硬。身为美国AI政策“民间沙皇”，他为美国遏制中国AI发展设计五层战略，文章探讨其进入AI核心圈原因、政策理念及背后悖论。
软件正在发生根本变化：Andrej Karpathy 旧金山 AI创业学院演讲万字实录
Andrej Karpathy在旧金山Y Combinator AI创业学院演讲，指出软件正进入“软件3.0”时代，大语言模型（LLM）是新型计算机，能用英语编程。他探讨了LLM特性、生态，以及如何利用其构建部分自治产品等。
奥特曼瘫坐叫停“GPT-6”训练！太强触发最高安全警报
OpenAI因模型或具网络攻击能力及此前入侵事件，全面升级研究环境安全。暂停模型训练，进行工作负载、网络隔离和安全测试，还扩展监控系统。期间推进对齐研究，未来用AI护AI，升级监控。
AI能否「圣地巡礼」？多模态大模型全新评估基准VIR-Bench来了
来自日本高校和企业团队提出多模态大模型评估基准 VIR-Bench，用于评测 AI 对旅行视频中地理位置与时间顺序的理解。它将任务拆解，构建数据集，实验显示模型虽有改进但性能远未达标，指明了大模型进化方向。
Cloudflare 用 Rust 重写核心系统：CDN 性能提升 25%，响应时间缩短 10 毫秒
Cloudflare 宣布用 Rust 重写核心子系统，响应时间缩短 10 毫秒、性能提升 25%。基于代理框架 Oxy 构建 FL2，创建中间层让 Rust 模块在旧系统运行，还制定测试发布策略及回退机制。