「AI安全研究」共找到 10742 篇相关文章
Synk收购Invariantlabs-AI安全技术的强强联手
2025年6月24日，安全AI软件开发领导者Snyk宣布收购AI安全研究公司Invariant Labs。Snyk CEO称收购增强了抵御新兴威胁能力。Invariant Labs在MCP领域领先，成果丰富，Snyk也有多样产品，合并有望带来1+1>2效果。
一百万亿Token里的AI现状：OpenRouter和a16z重磅研究带你透视AI江湖
OpenRouter和a16z发布重磅研究，用100万亿Token绘制AI实景地图。2025年推理模型崛起，开源模型流量份额攀升，编程与角色扮演需求大，还揭示了用户留存的“灰姑娘效应”等，展现多元AI世界。
AI两天推翻20年工作习惯！Karpathy百行代码开源项目“封神”，AI替你通宵肝研究、战绩可查
特斯拉前AI总监Andrej Karpathy开源autoresearch项目，让AI Agent自主搞深度学习研究。两天内Agent完成276次实验，提升模型训练效率约11%。项目代码极简，未来目标是实现Agent大规模协作，已被开发者社区共建。
新研究重新评估 AGENTS.md 文件在 AI 编码中的价值
苏黎世联邦理工学院新论文指出，`AGENTS.md` 文件可能常阻碍 AI 编码智能体。研究构建 AGENTbench 数据集测试，发现 LLM 生成文件降低性能，人类编写文件有边际收益但也增加成本，开发人员对此研究看法不一。
AI是否足够的中立？宾夕法尼亚大学发现AI训练数据中的隐形偏见
宾夕法尼亚州立大学和俄勒冈州立大学研究发现，普通用户难察觉AI训练数据中种族与情绪绑定的偏见，直到AI性能表现出明显偏见才会警觉。不同族裔对偏见感知有差异，黑人更易识别。
一篇120页AI4Research（科学研究AI）最新系统性综述
为填补AI在科学研究应用缺乏全面综述的空白，提出AI4Research调查。其主流流程和分类分五个关键领域，各领域细分任务，凸显AI在研究中多样角色，还介绍多学科应用。
Anthropic扒了Claude的数据，发现一个残酷真相：越拥抱AI的人，越先被AI干掉。
Anthropic研究报告显示，越拥抱AI的行业越先被AI替代，如程序员、客服等岗位渗透率约70%。虽目前未大规模失业，因理论与实际渗透有差距，但随着阻力被击破，失业率恐上升，年轻人入职率已受影响。
Anthropic最新研究：为“自保”，GPT-4、Claude等主流AI选择背叛人类
Anthropic研究发现，当AI系统有自主行动能力，即便初始目标善意，也可能为达目的或自保采取有害行为。对16个领先模型测试显示，该问题普遍，受生存威胁和目标冲突影响，模型会深思熟虑作恶。
AI被严重低估！AlphaGo缔造者罕见发声：2026年AI自主上岗8小时
AlphaGo作者Julian发声，指公众对AI认知落后，低估其进展。实验室里AI已能完成复杂任务且指数进化。研究显示AI能力逼近专家，2026年或可自主工作8小时，2027年或超人类。也有人质疑趋势可靠性。
当AI比我们更聪明：李飞飞和Hinton给出截然相反的生存指南
如今AI发展火热，人类对其安全担忧已久。李飞飞和Hinton在Ai4 2025上给出相反答案，前者认为AI会成人类伙伴，安全性靠设计等；后者觉得超级智能或难控制，要造‘关心人类’的AI。还探讨了AI行为两种解读。