「大模型发布潮」共找到 10284 篇相关文章
阿里新开源提出建设性安全对齐方案，向“让用AI的人安全”新范式跃迁
阿里巴巴集团安全部联合多高校发布技术报告，提出建设性安全对齐理念并集成到Oyster - I模型。该理念突破传统防御式机制，构建新博弈框架，实验显示该模型在安全和通用能力上达SOTA水平。
黄仁勋倡议的开源联名信，Anthropic 为何不愿签名?
黄仁勋分享支持开放权重模型的联名信，NVIDIA、Google等公司联署，Anthropic缺席遭网友讨伐。Anthropic研究人员回应引争议，这场讨论或存在错位，分歧关键在于发布前评测能否支持模型权重长期外授。
Zed 为什么不用自己造 Agent？OpenAI 架构师给出答案：Codex 重划 IDE × Coding Agent 的分工边界
Coding agents 是应用型 AI 活跃领域，但团队常重复构建脆弱基础设施。OpenAI 的 Codex 提出“模型和 Harness 共同构建”，架构师介绍构建挑战与使用模式，还阐述了将模型适配到 Harness 的问题及未来发展方向。
湾大北交大开源 CutClaw，自动踩点音乐的 AI 智能视频剪辑师！
大湾区大学GVC实验室和北京交通大学团队开源CutClaw，它是模拟专业后期流程的多智能体系统，能实现音乐驱动剪辑，按文字指令自动剪辑，适配多平台，还可解构素材。操作简单，支持多模型。
爆火一周后，Jev正式全面开放：一个“不会说话”的AI，为何风靡硅谷？
本文报道爆火硅谷一周的AI模型Jev正式全面开放，该模型由前OpenAI研究员团队打造，不同于传统大模型，不聊天不生成文本，仅做结构化判断，主打低成本快决策，引发开发者圈热议。
AI 精神病的巅峰：Claude Mythos 和 OpenAI Spud 还没上线，就有人度假都睡不着了
还未发布的Claude Mythos和OpenAI Spud在舆论场引发热议，大众情绪被拉高。OpenAI推出GPT - 5.4 - Cyber，还跟进‘安全’故事。网友对‘模型太危险只能少数公司用’说法存疑，同时GPT - 6等新模型消息不断。
龙虾“黑入”卡帕西家的智能家居系统：本来需要控制六个软件，现在用WhatsApp就能操控
特斯拉前AI总监卡帕西做客播客，分享诸多AI观点。如编程成个人能力问题，可让AI写代码；用龙虾打理智能家居，整合多软件；还谈及autoresearch、模型能力断层、模型分化、开源闭源格局等内容。
加一个字母就可以绕过AI围栏，新的漏洞：TokenBreak
提示词注入攻击威胁大模型及应用，当前主要防护方法是用BERT模型检测。HiddenLayer团队发现TokenBreak漏洞，通过加字母绕过检测。研究表明BPE和WordPiece分词策略易受攻击，Unigram不易，建议优先选Unigram类模型。
ICLR2025 | LLM为什么能拒绝回答有害问题呢？
该论文首次系统性研究注意力头在LLM安全中的作用，提出Ships和Sahara方法，在极少参数改动下显著降低模型安全性，发现不同模型安全头高度重叠，为理解模型安全机制提供新视角。
10B超越Gemini-2.5-Pro！阶跃星辰端侧多模态天花板开源
阶跃星辰多模态智能团队开源STEP3-VL-10B多模态模型，仅100亿参数却性能惊人。它采用了独特的架构、训练策略与推理机制，在多任务上表现出色，为小模型发展提供新思路。