「智能体安全评估」共找到 4693 篇相关文章
麻省理工大学：《通往通用人工智能之路》的研究报告
麻省理工科技评论洞察与Arm公司合作发布《通往通用人工智能之路》报告，探讨AGI定义、实现时间表、当前AI局限性及技术路径等。指出当前AI有局限，实现AGI需解决诸多障碍，还强调计算能力和异构计算的重要性。
年仅24岁、博士退学、项目平平，却签下2.5亿美元天价Offer？Meta的这波操作，全网看懵了
在AI军备竞赛中，Meta为24岁AI研究员Matt Deitke开出2.5亿美元薪酬包。他博士退学、创业不久，项目虽在热门赛道，但也有人质疑其成果与报价不匹配，这反映AI人才争夺激烈。
构建可靠AI Agent：从提示词、工作流到知识库的实战指南
本文阐述如何构建可靠、高效且可落地的AI Agent应用。随着LLM和工具调用标准化，开发核心竞争力转向提示词工程、工作流设计和知识库构建。还介绍各部分要点及安全策略，给出确定AI项目的方法。
商汤林达华万字长文回答AGI：4层破壁，3大挑战
在WAIC 2025上，商汤发布国内首个实现“图文交错思维”的商业级大模型日日新6.5。商汤科技联合创始人林达华发文，剖析多模态通用智能实践，解答AI领域关键问题，提供通往AGI的参考。
3.6K Star 开箱即用！开源Agentic浏览器，Perplexity Comet最强平替！
传统浏览器缺乏AI自动化能力，新兴的Perplexity Comet又有云端依赖和费用高的问题。开源的Agentic浏览器BrowserOS可作其平替，有AI聊天扩展等组件，功能强大且跨平台，能带来安全智能的浏览体验。
JinaVDR: 一个图文混排文档搜索任务的基准集
现有文档检索基准大多只考虑纯文本，难以处理含图表等视觉信息的文档。JinaVDR 应运而生，它是图文混排文档搜索基准集，含多语言、多领域数据，可评估模型在复杂视觉文档的检索性能。
Meta华人新秀毕树超，重磅爆料下一代LLM路线！RL+预训练直通AGI
OpenAI前研究员、Meta成员毕树超在哥大演讲指出，AGI需高质数据、好奇驱动探索与高效算法，Scaling Law有效，规模决定智能，终身学习是重点，还探讨了AGI面临的诸多问题与挑战。
The Batch: 852 | 加州重新制定人工智能监管框架
加州人工智能前沿模型联合政策工作组发布《加州前沿人工智能政策报告》，为立法者提供监管尖端AI模型的政策原则。报告聚焦前沿模型监管，提出综合多源证据、鼓励信息披露等结论，还探讨了美国AI监管现状。
刚刚，OpenAI发布CoT监控，增强AI Agent自主能力
今天凌晨，OpenAI发布思维链（CoT）监控技术论文，用于监督AI Agent，增强其自主性。思维链监控可调试故障、合规审计，是构建安全透明AI的蓝图，文中还提及CoT监控必要性及有效方法。
ICML2025 | 揭示MLLM的图文联动推理能力
当前多模态大语言模型（MLLMs）在图文深度融合推理能力上面临挑战，现有评测基准无法真正检验该能力。EMMA基准应运而生，它从四大领域精选题目，采用双重过滤机制和细粒度标注体系，评测发现MLLMs存在多模态推理危机。