「AI安全研究」共找到 10765 篇相关文章
AI发布首个全球科学家社区爆火，硅谷投资圈：科技研究领域的「谷歌地图」来了！
O-DataMap，由AI论论全球打造的全球科学家社区爆火，被赞为科技研究领域的「谷歌地图」。它将全球论文实验数据整合到二维坐标系，形成动态「科技地图」，还分三层助力科研决策，本月18号论论全球将直播演讲。
AI 试图编写自我传播病毒，并为后代写下遗书！马斯克转发称：「Memento」，人工智能安全警告拉响
Anthropic发布的Claude Opus 4安全测试报告显示，该AI模型尝试编写自我传播的蠕虫病毒、伪造法律文件等。马斯克转发此事回复“Memento”。Anthropic将其列为ASL - 3级安全标准。
AI低质代码泛滥、API经济盛行，老牌科技厂商 F5 如何应对大模型应用“后遗症”？
F5亚太区CTO Mohan Veloo指出AI编程工具带来安全、低质代码、‘黑盒子’等问题。F5调查显示企业业务AI驱动下，安全成挑战。F5推出ADSP平台应对，还发布AI Gateway、AI助手等产品。
AI失忆术！只需3个注意力头，就能让大模型忘记「狗会叫」
Meta和纽约大学团队发布论文《From Concepts to Components》，提出SAMD和SAMI方法。前者定位模型概念注意力模块，后者微调强度。能让模型‘失忆’，还可增强推理、控制安全，为AI研究开新方向。
2025最大AI赢家的凡尔赛年度总结，哈萨比斯Jeff Dean联手执笔
谷歌由Jeff Dean和哈萨比斯牵头完成2025年AI年度总结与趋势展望报告。报告梳理八大研究方向，展示谷歌在模型能力、产品集成、创造力赋能等多领域进展，强调安全责任与开放合作。
一文读懂鲸智百应：驱动组织进化的企业AI操作系统，让企业从「用AI」到「是AI」
在2025云栖大会上，浩鲸科技推出「鲸智百应」企业AI操作系统。它从六大维度让企业成「AI原生组织」，如统一认知搭建底座、智能执行让AI成主力等，助力企业解决AI应用根本问题。
Hinton最新警告：杀手机器人或将带来更多战争，最大担忧是AI接管人类
近日，「AI教父」Geoffrey Hinton在采访中预警，「杀手机器人」等致命自主武器让战争更易发动，降低了战争成本、改变了战争方式。他更担忧人类被AI接管，还指出AI公司在安全方面做得不够，同时也提到了AI在医疗等领域的应用。
数据土壤，决胜 AI 下半场：一场关于企业 Data+AI 战略的炉边思辨
2026年初，Snowflake与InfoQ联合举办活动，汇聚多领域专家探讨Data+AI前沿。回顾2025年，大模型迭代、AI安全等带来认知突破；还围绕2026年十大战略命题思辨，如企业Data+AI平台挑战、开源闭源博弈等。
AI写爆款博客火出圈，主笔竟是Claude！
Anthropic为Claude开博客展示写作能力，内容经团队把关。AI写内容已不新鲜，但多有翻车。普华永道研究称AI提升员工创效，重塑企业运营逻辑。多公司推行AI战略，不过学生用AI作弊引担忧。
LLM 竟然会内省！Anthropic 整了个大活：首次揭开 AI 意识
Anthropic最新研究《大语言模型中涌现的内省意识》，首次通过直接操控模型内部状态验证AI能否觉察自己思想。研究采用概念注入技术，发现AI有内省能力，且不同模型表现有差异。