「AI安全研究」共找到 10899 篇相关文章
“通用大模型微调成为行业模型是伪命题”？医疗AI深度重构，传神语联创始人何恩培：孪生智能体能砍70%线下复诊工作
本文为《2025 年度盘点与趋势洞察》系列访谈，传神语联创始人何恩培分享医疗 AI 发展看法。他认为通用大模型微调成行业模型是伪命题，介绍了传神素问中医大模型应用，还对比中西医 AI 化差异，探讨未来发展场景与挑战。
刚刚，Anthropic 宣布：Claude 自己长出了意识
Anthropic新研究《语言模型中的全局工作空间》，在Claude神经网络里找到特殊区域J - space，它有独特性质，对应全局工作空间理论。还介绍了发现方法及多个实验，探讨其与意识关系，研究已开源。
从Cursor返聘归来，90后华裔女高管带Claude开启日更模式：token成本比工程师工资低多了！
90 后华裔女高管 Cat Wu 推动 Anthropic 产品按天迭代。她介绍团队分工、产品决策围绕安全 AGI 使命，还谈及源码泄露、模型使用等问题，分享工具使用场景及对 PM 能力要求，鼓励用 AI 自动化工作。
本周 5 个实用的 Github 开源项目，真香！
文章介绍本周5个实用Github开源项目。有资源聚合媒体中心stremio-web，AI原生安全测试平台CyberStrikeAI，本地优先AI编程远控工具hapi，智能股票分析系统daily_stock_analysis，纯前端JavaScript GUI智能体框架PageAgent。
The Batch: 876 | Gemini 的环境影响测算
谷歌研究人员对驱动 Gemini AI 助手的模型进行一年研究，发现处理一个提示的环境影响小。其能耗、水耗和温室气体排放量远低于此前估算，2024 - 2025 年处理中位提示时能耗、排放大幅降低。
节前重磅：开源旗舰模型新SOTA，智谱GLM-4.6问世
国庆前智谱AI发布新一代旗舰模型GLM-4.6并将开源，它在多方面提升，如编码、上下文长度等，评测性能佳，token消耗降低。经实测，其代码、研究、开发等能力强，成全球开源AI领域重要力量。
6.6K Star 打破次元壁！MCP-Use开源爆火：6行代码让LLM操控万物！
在AI Agent开发热潮中，MCP-Use作为开源Python库爆火。它用6行代码让LLM操控万物，支持多模型、多服务器，提供安全机制，适配网页浏览、3D建模等多种场景，降低AI Agent开发门槛。
Agent的上限，可能不在模型，而在团队知识
文章记录安全中心团队搭建AI知识体系的实践，指出Agent输出质量取决于知识质量，分析传统知识库问题，介绍AI时代知识库转变、目标设定、搭建步骤、知识飞轮及避坑指南，还展示建设后的变化。
OpenAI算力账单曝光：70亿美元支出，大部分钱花在了“看不见的实验”
据Epoch AI统计，去年OpenAI计算资源支出70亿美元，多以租微软云算力支付。其中50亿研发算力，大多用于幕后研究和实验，非爆款模型的最终训练，也解释了其2024年亏损原因。
黑客已死！Claude 两周挖出 Firefox 22 个漏洞
Anthropic与Mozilla合作，让Claude Opus 4.6对Firefox代码库做漏洞挖掘，两周发现22个漏洞，14个高危。Claude发现漏洞能力强，但利用漏洞能力弱。还研究用LLM做「补丁Agent」，为AI辅助安全研究建规范。