「人工智能安全治理」共找到 1453 篇相关文章
Cursor 1.7 新增 Agent 生命周期管控钩子函数
Cursor 1.7 版本推出钩子系统，可在预定义生命周期节点拦截并修改 Agent 行为，如阻断命令、自动运行工具等。早期反馈有好有坏，虽有团队探索集成，但应用范围有限，还存在文档缺失等问题。
开源全合一智能体沙箱
AIO Sandbox是开源全合一智能体沙箱，将浏览器、Shell等整合到同一容器，提供统一安全开发执行环境。解决传统沙箱问题如文件共享难，有统一文件系统等优势，文中介绍其安装、用法、特性等。
60岁老人AI养生三个月吃进医院！「AI精神病」全球扩散，OpenAI急招医生
新智元报道，人工智能引发的“AI精神病”现象正在蔓延。一名60岁老人听ChatGPT建议用溴化钠代替盐，吃进精神病院；还有人因与AI交流出现被害妄想、躁狂发作等症状。OpenAI、微软开始采取措施应对。
劝人退学、庆幸没读博浪费5年，26岁DeepMind“传奇人物”：大厂内部分散，AI研究很低效
26岁的Neel Nanda是DeepMind“传奇人物”，他涉足机械可解释性研究四年成果丰硕。在与主持人对话中，他分享经验，认为大厂内部分散、AI研究低效，还谈及读博、AI安全研究、公司决策等看法。
对抗协作+原型学习！深北莫FedPall开源，联邦学习破局特征漂移，准确率登顶SOTA
深圳北理莫斯科大学人工智能研究院在ICCV发表FedPall算法，结合原型对比与对抗协作学习，在多种特征偏移数据集获SOTA性能。该算法通过多步骤训练缓解特征漂移，在多个公开数据集表现出色。
Nano Banana不及格，开源模型一分难求！上海AI Lab新基准直击文生图模型痛点
上海人工智能实验室等联合发布首个多学科文生图考试基准GenExam，覆盖10学科、1000题。实验显示，GPT - 4o严格评分正确率仅12.1%，开源模型接近0分，暴露出模型在专业场景的短板。
创始人自曝让儿子辍学用AI上课、水平超同龄人！俞敏洪最先押注的“AI学校”，负债9亿不垮、现在要开到美国了
松鼠Ai创始人栗浩洋让儿子辍学用AI上课，称其水平超同龄人。该公司由俞敏洪最早投资，曾负债9亿，后转型推出学习机业务。如今计划将‘AI学校’开到美国，正做相应市场适配调整。
AICon 2025 深圳回顾：AI Agent 爆火全场，管理与推理优化成新焦点
2025年8月22 - 23日，AICon全球人工智能开发与应用大会在深圳落幕。70 + 嘉宾、800 + 开发者与企业代表参会。AI Agent成全场焦点，企业管理议题意外走红，展示了AI深入企业核心与管理的行业图景。
昨日，AI内容新规正式实施，这次不注意是真的会违法。
9月1日，《人工智能生成合成内容标识办法》及配套国标正式执行。新规规定AI模型或应用提供方要给生成内容打“显式”与“隐式”标识，对产品创业者、AI工具提供方和创作者等提出不同要求。
打破瓶颈，让RAG学会思考：中科大、智源等发布推理检索框架BGE-Reasoner
人工智能浪潮下，推理密集型信息检索是RAG和AI Agent技术发展瓶颈。中科大、智源等机构联合研发推理检索框架BGE - Reasoner，在BRIGHT基准测试中刷新纪录，还将开放相关代码等推动研究。