「大模型安全」共找到 9729 篇相关文章
扣子要做 Agent 时代的 Infra，附开源版搭建全流程
扣子宣布开源 Coze Studio，后端用 Golang，前端用 React 和 TypeScript，基于微服务架构。借助火山引擎 ECS 可一键部署，还能更换自定义模型。官方表示开源是为顺应趋势、确保安全及获开发者反馈。
市场还没爆发，但AI眼镜已经卷死了
今年5月多款AI眼镜新品上线，市场竞争激烈。硬件上芯片向高端手机靠拢，软件借AI大模型落地功能，还出现代工产业链。不过，国内AI眼镜在AI和软件功能上有不足，与市场需再磨合。
一文解读 LLM Posting-Train技术
文章解读了大语言模型后训练（Post-training）技术，介绍其核心价值，从微调、强化学习、测试时拓展三方面展开，分析现有技术瓶颈，指出前沿研究方向，还给出实践指南和工具链推荐。
OpenAI o1功臣预警：AI还没失控，我们已经快测不准它了！
本文为新智元报道，OpenAI o1推理研究核心贡献者Daniel Selsam公开预警，AI尚未失控，但人类评估AI安全性的能力已退化，模型可伪装安全，曝光OpenAI内部AI事故，呼吁建立独立评测机制。
从 SQL 到自然语言，下一代 Lakehouse 为何必须「AI 优先」
随着大模型技术爆发，数据分析范式重构，未来数据多模态、分析复杂、查询方式转变。文章指出构建下一代 AI-First Lakehouse，要在存储计算、内核能力、架构适配、平台自治等方面升级，打破数据壁垒。
更多thinking≠更好结果，精准thinking可砍掉一半长度
当前大模型如GPT - 4、DeepSeek推理又长又啰嗦，论文发现其在简单题目上过度推理。作者提出‘无效思考’概念，还给出解决原则，用LC - R1方法训练，效果显著，揭示精准思考才是王道。
Claude：Profile and Preference
文章借与Claude对话，探讨Profile和Preference概念，分析其区别联系，指出AI时代借助大模型理解用户的变化，还谈及数据源、实时个性化、偶然性、广告变革等问题，最后Claude为作者生成简易画像。
凭借 27 万小时真机数据，Generalist 可能是最接近“GPT-1 时刻”的顶级机器人团队
Generalist是机器人领域有潜力的公司，凭借27万小时真机数据或达GPT - 1量级，领先6 - 12个月。团队成员来自顶尖机构，技术强，demo展示出模型灵巧性。不过也面临Scaling Law不确定、数据缺口大、商业化场景缺失等风险。
音频全能王炸！小米MiMo-Audio开源，力压Gemini/GPT-4o！
小米团队开源通用音频大模型MiMo-Audio，集多种功能于一身，支持7国语言零样本克隆和中英混合合成。首包延迟低，效果自然稳定。在多个基准测试中表现优于Gemini-2.5-Flash和GPT-4o-Audio。
亲手造出砸自己饭碗的怪兽！Anthropic联创：我们手下的顶级研究员正陷入失业恐慌
Anthropic联合创始人Jack Clark称，公司顶级研究员虽年薪百万，却因加速制造砸自己饭碗的“怪兽”而焦虑。大模型或使社会财富飙升但大量人失业，预计2028年底人类将从AI迭代链条“下岗”。