「Agent安全」共找到 4541 篇相关文章
好奇心之旅：Cursor代码库索引机制的学习笔记
作者作为高德信息工程团队AI先锋队一员，日常用Cursor开发，因好奇其代码库索引机制展开探索。介绍了Cursor索引工作流程、隐私安全等，还研究Merkle树、turbopuffer向量库及开源方案Continue。
借助CoT监管AI？OpenAI、谷歌、Anthropic等罕见联合发文：AI系统安全的新机遇！
OpenAI等支持新研究论文，其指出高级AI不透明性有潜在风险，而‘推理模型’用自然语言推理带来可解释窗口，CoT监控可检测不当行为、发现早期信号等，但也存在使监控性下降的因素。
中国大模型如何破圈？开源不能太“独角戏”，也不是“上传 GitHub 就完事儿”
InfoQ 专访 Linux 基金会 Mark Collier，他分享对 AI 时代开源看法。指出开源是协作哲学，AI 开源与传统不同，倡导开放数据，认为商业限制不利生态，还谈及 Agent 与中国大模型开源等问题。
华为系EDA，落子上海！
华为哈勃投资的九同方从武汉迁至上海，其作为专注IC设计服务的EDA公司，熬过十年冷板凳，产品达国际领先。华为借此建立自主工具链，九同方可对接长三角资源，当下国产EDA企业受关注且并购频发。
4B小模型数学推理首超Claude 4，700步RL训练逼近235B性能 | 港大&字节Seed&复旦
香港大学NLP团队联合字节跳动Seed、复旦大学发布Polaris强化学习训练配方，让4B模型数学推理能力超商业大模型，且Polaris-4B可在消费级显卡部署，相关内容已全部开源。
从0到1拆解FreeWheel ChatBI：大模型如何重塑视频广告智能数据分析新生态
本文结合 FreeWheel 实际应用经验，分享构建 ChatBI 系统核心实践。介绍其核心功能、技术实践，如让 LLM 理解业务、智能选表等，还提及系统架构、算法服务，最后总结上线效果并展望未来优化方向。
西工大张伟伟团队：大模型时代航空科技的蓝图畅想 | 航空学报CJA
随着国产开源大模型涌现，大语言模型走入生活，挑战传统航空教育，革新科研范式，与航空产业融合推动变革。西工大张伟伟团队探讨其在航空工程教育、科研、行业全链条的影响及挑战。
谷歌前CEO深度专访：AI、智能体会重塑世界
谷歌前CEO Eric Schmidt在Ted专访中，从AI起点AlphaGo说起，阐述其从大模型到自主决策智能体的发展，还提及算力电力需求增长、监管、开源等问题，虽挑战多，但他对AI重塑世界充满信心。
统一20+多智能体方法，MASLab震撼发布
由十机构联合推出的 MASLab，带来大模型多智能体系统代码库，统一 20+主流 MAS 方法。有方法全、评估准、结构清晰特性，经大量实验刻画性能图谱，还提出新方法，且发起开源社区。
“我的新爱好：眼睁睁看着Copilot慢慢逼疯微软程序员”
近日，Reddit上关于GitHub Copilot的风波引发开发者关注。微软发布Copilot Agent，虽称其擅长开发任务，但在GitHub实践中表现不佳，引发开发者不满，也反映出技术理想与现实落地的差距。