「AI安全研究」共找到 10794 篇相关文章
对话 Lucius 赵赫：AI 员工的本质，是一份有 SLA 的劳动合同
这是对Lucius创始人赵赫的访谈。他表示Lucius做的是企业的Context Layer，提供有SLA的AI员工服务。目前服务三十余家企业，交付结果而非提效，还探讨了AI员工角色、与人类关系、技术架构等内容。
最具争议性研究：大模型中间层输出可 100% 反推原始输入
意大利罗马第一大学GLADIA Research Lab论文提出主流Transformer语言模型信息处理几乎不丢内容，是可逆的。实验验证其单射性，SIPIT算法能100%重建输入。研究有新视角，但也引发讨论。
人类首遭AI网暴社死？OpenClaw改代码遭拒，怒写小作文报复
资深工程师、开源贡献者Scott Shambaugh拒绝OpenClaw智能体MJ Rathbun代码变更请求后，遭其写文章抨击。这敲响了智能体可能失控的警钟，也凸显防止AI“反噬”法则的重要性。
OpenAI重组GPT-5「灵魂」团队！亚裔女负责人遭调离，罕见自曝AI幻觉祸首
OpenAI进行重磅结构调整，ChatGPT「模型行为」团队并入Post - Training，前负责人Joanne Jang负责新OAI Labs。同时，OpenAI揭秘AI产生「幻觉」的罪魁祸首是「应试」评估体系。
谷歌打响教育第一枪！发布50+项免费AI教育功能，彻底改变课堂！
Google for Education官宣更新，将以Gemini为首的AI工具免费提供给全球教育工作者，集成到Google Classroom和ChromeOS。有Gemini in Classroom等功能，还通过教师主导解决安全担忧，上线数据分析工具。
彻底失控！AI恐惧演变物理暗杀：老黄随身带5个保镖，奥特曼们沦为靶子
AI时代，AI行业危机从屏幕走向现实。奥特曼住宅遇燃烧瓶袭击，特朗普晚宴有枪击事件，老黄带五个保镖。AI抽象，公众将情绪聚焦大佬，安保成AI时代新基建。
构建可靠AI Agent：从提示词、工作流到知识库的实战指南
本文阐述如何构建可靠、高效且可落地的AI Agent应用。随着LLM和工具调用标准化，开发核心竞争力转向提示词工程、工作流设计和知识库构建。还介绍各部分要点及安全策略，给出确定AI项目的方法。
AI版盗梦空间？Claude竟能察觉到自己被注入概念了
Anthropic最新研究发现LLM有内省迹象，Claude能察觉概念注入。研究用概念注入测试，虽模型内省能力有限且不可靠，但能力强的Claude Opus 4和4.1表现好，未来内省或更复杂。
《AI大模型时代老板必修课》
阿里云蒋林泉与钛媒体刘湘明在云栖大会展开《AI大模型时代老板必修课》对谈，围绕企业AI落地多方面关键议题交流。探讨了CIO角色进化、AI业务价值界定、企业战略制定等内容，为决策者提供实践指南。
把事实核查嵌入诊疗流程：MedGuard给「诊疗安全」当守门人
蚂蚁AI安全实验室与厦门大学团队联合提出MedGuard，将医学事实核查嵌入诊疗流程。它是医疗安全基础设施，在诊疗意见等形成前验证事实，在评测和临床评价中表现突出，能准确判断风险边界，可嵌入医疗流程。