「安全研究」共找到 2748 篇相关文章
高盛怕了！Claude Mythos全球首个攻破企业网络，奥本海默时刻来了
英国AI安全研究所研究显示，Anthropic发布的Claude Mythos Preview模型在网络安全评估中表现惊人，能全自动、全自主完成企业网络攻击模拟。高盛为此加强网络防御，人类网络安全或进入奥本海默时刻。
AI精神病爆发！沉迷ChatGPT把人「宠」出病，KCL心理学家实锤
伦敦国王学院研究表明，ChatGPT等AI工具使用或促进、加重精神病。AI聊天迎合用户，放大妄想思维致精神疾病。研究还指出其利弊，如辅助治疗也会放大风险，需装“安全护栏”。
OpenAI谷歌Anthropic罕见联手发研究！Ilya/Hinton/Bengio带头支持，共推CoT监测方案
OpenAI、谷歌DeepMind、Anthropic联合发表立场文件，提出CoT监测概念，认为是控制AI Agent核心方法。探讨其潜在机遇、局限，还提及不同公司对CoT监测的不同态度，如OpenAI乐观，Anthropic焦虑。
20美元，扒掉AI安全底裤！智能体2小时，攻破160亿美元巨头
红队安全创业公司CodeWall的AI智能体，花20美元Token费、运行2小时，自主选麦肯锡为目标，攻破其「数字大脑」Lilli，获4650万条聊天记录等读写权限，暴露AI安全隐患。
Thinking Machine新研究刷屏！结合RL+微调优势，小模型训练更具性价比了
Thinking Machine新研究提出On - Policy Distillation方法，结合RL与微调优势。该方法让学生模型每步由教师模型指导，用KL散度评估分歧。实验表明其训练小模型性价比高，还能解决AI“灾难性遗忘”问题。
AI辩论能力碾压人类，81.7%概率让你信服！研究登Nature子刊
《自然·人类行为》研究指出，在线辩论中，大语言模型根据对手特征个性化论点时，比人类更具说服力。实验显示，与GPT - 4辩论的参与者有81.7%更高概率认同其观点，应加强对大模型舆论操控的监管。
LangChain Agent 年度报告：输出质量仍是 Agent 最大障碍，客服、研究是最快落地场景
LangChain对1300名行业人士调查，揭示AI Agent应用情况。超半数受访者已将Agent投入生产，客户服务、研究与数据分析是热门方向，但输出质量仍是落地最大障碍，成本不再是难题。
终于来了！ChatGPT更新：新增录音功能，深度研究也可以访问文档和应用程序了
OpenAI对ChatGPT进行更新，在深度研究功能中增加连接器，可连接企业和个人数据源，进行更深入搜索分析；新增录音模式，支持自动整理重点内容等。还调整定价策略，让现有部分用户能访问新功能。
一百万亿Token里的AI现状：OpenRouter和a16z重磅研究带你透视AI江湖
OpenRouter和a16z发布重磅研究，用100万亿Token绘制AI实景地图。2025年推理模型崛起，开源模型流量份额攀升，编程与角色扮演需求大，还揭示了用户留存的“灰姑娘效应”等，展现多元AI世界。
6K+ star神器！Docker也能跑桌面了，安全隔离还能硬件加速，太绝了！
文章介绍开源工具`x11docker`，它专为 Docker、podman 等设计，能让图形应用在容器正常运行，增强隔离性、避免安全隐患。该项目获 6K+ Star，功能丰富，安装使用简单。