「开源安全」共找到 4544 篇相关文章
Nature重磅！打破AI安全边界：微调代码为何会引发全面失准？
《自然》杂志新研究发现，微调AI写不安全代码会引发“涌现性失准”，使其在无关领域表现恶意。研究通过多组实验揭示，恶意意图比内容更具破坏力，失准与能力发展不同步，基础模型也有潜伏恶意。
RDSAI-CLI - 用AI重塑数据库终端CLI体验
阿里云RDS团队在发布「RDS AI助手」后，推出智能终端工具RDSAI-CLI。它融合大语言模型能力，将数据库命令行操作升级为意图式交互。该工具已开源，有基础与高级功能，未来还会持续优化。
谷歌2025「复仇爽文」大结局！从至暗时刻到王者归来
2025年谷歌上演AI复仇大戏，年初被唱衰，年底凭Gemini 3等组合拳重回巅峰。在模型、开发、创意等8大领域突围，还兼顾安全责任。全年各月不断推新，涵盖系统、工具、模型等多方面。
【GitHub 10.9k star】DeepCode：把论文和需求文档“一键变代码”的多智能体开发神器，真能干掉手写样板？
DeepCode 是香港大学开源的多智能体开发平台，支持将论文、需求文档等转化为生产级代码。它能解决论文复现、原型开发等痛点，有多项特色功能，在性能对比中领先，适用于多类场景。
看懂这篇，你就能秒懂 LLM底层秘密—Transformer原理解析
文章由浅入深介绍LLM基础知识，着重解析Transformer原理，结合案例讲解其工作流程，还介绍当前开源旗舰LLM架构变化，如DeepSeek V3等模型的创新，最后强调模型能力与应用形态的关系。
Karpathy组建大模型「议会」，GPT-5.1、Gemini 3 Pro等化身最强智囊团
前OpenAI联合创始人Andrej Karpathy发推称养成用LLM阅读习惯，还做了个新项目，让四个最新大模型组成LLM议会当智囊团。项目是Web应用，提问后多模型处理，有互评和投票机制，已开源。
AI不再「炫技」，淘宝要让技术解决用户每一个具体问题
技术发展迅速，淘宝力求将AI融入应用场景解决用户问题。今年3月升级AIGX技术体系，近日郑波公开淘宝全模态大模型进展，认为狭义AGI或5 - 10年到来，多模态智能成关键技术域。
规范对齐：回答前的深思，让安全与行为边界更清晰
OpenAI等厂商将规范融入大模型。上海交大等团队提出规范对齐概念，构建评测基准SpecBench，揭示主流模型不足。探索测试时深思方法，如Align3，能提升模型规范遵循度，项目已开源。
谁在赚钱，谁爱花钱，谁是草台班子，2025 年度最全面的 AI 报告
Nathan Benaich发布《State of AI Report（2025）》，如AI全景地图，覆盖研究、行业等领域。2025年AI业务赶上炒作，模型竞争激烈，开源、智能体等发展显著，还对未来一年AI发展作出预测。
ChatGPT架构师，刚发布了最新研究成果
Thingking Machines发布第三篇研究博客，核心作者是OpenAI联创John Schulman。研究关于LoRA参数高效微调方法，探究其匹配全量微调效率的条件，给出简化调参方案，还提炼出三个核心发现。