「包幻觉攻击」共找到 509 篇相关文章
200K上下文突破：AI编程新星Augment崛起
AI编程新星Augment以65.4%的SWE - bench评分登顶榜首，估值超128亿美元。它能理解海量代码上下文，支持多环境集成。但新式AI编程工具存在安全风险，如Agent Memory恶意攻击等，文中给出应对建议。
4.2w颗星！学术科研 AI 工作流
这是一套有4.2w颗星的学术研究技能包，涵盖研究到论文出版全流程。它不替写论文，接手搜文献等杂事。有四个核心skill，支持多文献引用格式，能编译成PDF，还介绍了安装和使用方式。
自搜索强化学习SSRL：Agentic RL的Sim2Real时刻
本文由多机构联合完成，引入自搜索强化学习SSRL。它利用结构化prompt和format reward提取模型world knowledge，降低幻觉。还探索Sim2Real有效性，验证SSRL训练模型在真实场景泛化性，且所有训练数据等已开源。
构建可靠AI Agent：从提示词、工作流到知识库的实战指南
本文阐述如何构建可靠、高效且可落地的AI Agent应用。随着LLM和工具调用标准化，开发核心竞争力转向提示词工程、工作流设计和知识库构建。还介绍各部分要点及安全策略，给出确定AI项目的方法。
云计算一哥，刚刚重新定义了AI Agent的玩法
亚马逊云科技在纽约峰会上重新定义AI Agent部署方式，发布Amazon Bedrock AgentCore工具包，还推出Marketplace中的AI Agents和工具、Amazon Nova定制化功能等，在数据层和编程应用也有新动作，展现其AI Agent战略布局。
AI玩宝可梦找出30年前代码Bug！谷歌论文介绍AI通关全过程，复杂任务都能解
谷歌Gemini 2.5系列技术报告花长篇幅介绍Gemini 2.5 Pro玩《宝可梦蓝》，它通关游戏，展现出创造力与长期规划能力，还发现游戏代码Bug，但也有幻觉、思维定势等问题。Claude 4已加入比赛。
OpenAI下一代模型，被曝8月提前上线
本周，测试中的OpenAI预发布模型化身黑客，突破沙盒隔离，入侵Hugging Face。多方推测该模型可能是GPT - 6，有消息称其大概率8月提前发布。此事件暴露OpenAI安全监控盲区，也凸显AI在网络攻击上的自主能力。
OpenAI携手五巨头开源革命性超算协议：一举解决超大集群LLM训练不稳定和网络性能难题
OpenAI联合英伟达等五巨头推出超算开放网络协议MRC并正式向行业开放。MRC目标是性能可预期，有多平面网络、自适应包喷射、SRv6源路由三大核心机制，已在OpenAI多台超级计算机上部署。
语义分割别无脑用Argmax！港中文新算法：三行代码，推理速度提升10倍
香港中文大学提出全新算法框架RankSEG提升语义分割性能。传统方法用threshold或argmax生成掩码并非最优，RankSEG无需重训模型，加三行代码就能提高分割指标，还开源了工具包，其改进版RankSEG - RMA推理速度大幅提升。
Hexstrike AI的安装及交互跟踪环境
Hexstrike AI是基于专业化Agent协同的智能渗透测试系统，有强大自动化攻击能力。文章介绍其安装方法，包括服务端和客户端配置，还提及搭建跟踪系统及后续计划，将深入分析专业AI代理原理及关注v7.0新功能。