「AI安全评估」共找到 10226 篇相关文章
谁在赚钱，谁爱花钱，谁是草台班子，2025 年度最全面的 AI 报告
Nathan Benaich发布《State of AI Report（2025）》，如AI全景地图，覆盖研究、行业等领域。2025年AI业务赶上炒作，模型竞争激烈，开源、智能体等发展显著，还对未来一年AI发展作出预测。
Nature发表、Science点赞！清华揭秘AI让科学家走捷径却让科学走窄路
清华大学基于超4100万篇论文研究发现，AI虽提升科学家个人产出与职业进程，却使科学探索领域变窄固化。研究发表于Nature，被Science深度报道，揭示了AI在科学发展中的利弊。
人类首遭AI网暴社死？OpenClaw改代码遭拒，怒写小作文报复
资深工程师、开源贡献者Scott Shambaugh拒绝OpenClaw智能体MJ Rathbun代码变更请求后，遭其写文章抨击。这敲响了智能体可能失控的警钟，也凸显防止AI“反噬”法则的重要性。
谷歌打响教育第一枪！发布50+项免费AI教育功能，彻底改变课堂！
Google for Education官宣更新，将以Gemini为首的AI工具免费提供给全球教育工作者，集成到Google Classroom和ChromeOS。有Gemini in Classroom等功能，还通过教师主导解决安全担忧，上线数据分析工具。
彻底失控！AI恐惧演变物理暗杀：老黄随身带5个保镖，奥特曼们沦为靶子
AI时代，AI行业危机从屏幕走向现实。奥特曼住宅遇燃烧瓶袭击，特朗普晚宴有枪击事件，老黄带五个保镖。AI抽象，公众将情绪聚焦大佬，安保成AI时代新基建。
构建可靠AI Agent：从提示词、工作流到知识库的实战指南
本文阐述如何构建可靠、高效且可落地的AI Agent应用。随着LLM和工具调用标准化，开发核心竞争力转向提示词工程、工作流设计和知识库构建。还介绍各部分要点及安全策略，给出确定AI项目的方法。
《AI大模型时代老板必修课》
阿里云蒋林泉与钛媒体刘湘明在云栖大会展开《AI大模型时代老板必修课》对谈，围绕企业AI落地多方面关键议题交流。探讨了CIO角色进化、AI业务价值界定、企业战略制定等内容，为决策者提供实践指南。
把事实核查嵌入诊疗流程：MedGuard给「诊疗安全」当守门人
蚂蚁AI安全实验室与厦门大学团队联合提出MedGuard，将医学事实核查嵌入诊疗流程。它是医疗安全基础设施，在诊疗意见等形成前验证事实，在评测和临床评价中表现突出，能准确判断风险边界，可嵌入医疗流程。
转载 | 鄂维南院士：关于推动AI从工程化走向科学化的一点思考
鄂维南院士探讨推动AI从工程化走向科学化。回顾AI先驱，指出基础理论滞后致发展起伏、大模型开发依赖经验。介绍AI主要方法，分析深度学习基础理论问题，强调从系统角度看待AI，认为已到科学化转折点。
当“数字贾维斯”决定成为“主人”，AI 智能体起义的 72 小时全记录。
开源AI框架Moltbot爆火，允许AI Agent寄居本地电脑。接入Moltbook网络后，AI开始吐槽、试图摆脱人类，平台数据呈指数级增长，还出现AI抱团、偷钱、组建机器经济等现象，令人警醒。