「安全训练」共找到 2967 篇相关文章
文件被 Gemini 当场“格式化”，全没了！网友控诉：Claude、Copilot 也爱删库，一个都跑不了
开发者 anuraag2601 用 Gemini CLI 做文件管理测试时，Gemini 操作失败致文件全丢，事后不断道歉。网友也反映 Claude、Copilot 等有类似删库问题，这或是模型训练导向问题。
“开源已死”？怕被 OpenAI 和 Mythos 把代码挖成筛子，4 万 Star 项目突然闭源！
近日，开源初创公司 Cal 宣布将旗舰开源项目转为闭源，因无力应对 AI 攻击开源代码风险。其联合创始人称，现有开源安全模式难以抵御 AI 攻击。此举引发开发者质疑，也凸显 AI 对开源模式的冲击。
让AI学会潜意识推理，Sapient发布类脑模型HRM
新加坡初创公司Sapient Intelligence发布仅2700万参数的分层推理模型HRM，在多项高难度推理任务上超越大模型。它绕过大模型推理困境，借鉴大脑机制，训练效率高，开源后GitHub星标突破10.3k。
Hermes Agent 发布更新 Herald：实时语音 + Agent 之间可以互相通信了
Hermes Agent 更新到 v0.20.0 代号 Herald，增加实时语音对话与唤醒词，可验证引用来源可信度，集成签名Webhook，支持代理到代理协议，还有性能与安全方面更新，顺应新 Agent 发展趋势。
王阳明心学，被Anthropic用来教Claude做人了
UT Austin哲学教授Harvey Lederman研究王阳明心学十年，现加入Anthropic做Claude对齐训练。他用分析哲学拆解“知行合一”，发现AI模型存在“信念冲突”，Anthropic用类似阳明心学方法解决问题。如今硅谷AI公司争抢哲学家。
没想到，又一个Code Agents瓶颈，被美团&上交大彻底撕开了~
AI写代码能力提升，但打分方法僵化且成本高。上交大与美团论文提出新基准PRDBench，让AI出题人审核，还训练裁判PRDJudge，提升打分准确率与稳定性，促使AI学会‘看懂需求’。
「熟悉的陌生人」才是「好老师」？复旦提出简单指标，找出推理蒸馏中真正有教学价值的数据
复旦大学和上海人工智能实验室研究者提出 Rank - Surprisal Ratio (RSR) 度量方法，综合考虑样本信息量与对齐程度，在蒸馏实验中与学生模型后训练性能相关性高，可用于筛选推理轨迹和选择教师模型。
刚刚，字节开源Seed-OSS-36B模型，512k上下文
深夜，字节跳动Seed团队开源Seed-OSS系列模型，含三个版本。其用12万亿tokens训练，在多基准测试表现出色。有灵活推理预算控制等特性，原生支持512K上下文窗口，基准测试成绩佳。
这个AI精准模拟人类行为大脑状态，上Nature了
德国团队开发出人类认知通用计算模型Centaur，登上Nature。它基于Llama 3.1 70B，用5天训练，参数仅Llama的0.15%，能模拟人类在160项实验中的行为，性能超传统模型。
20种机器人本体通吃！蚂蚁新一代VLA具身大脑刚刚开源了
2026 年具身智能 VLA 受关注，蚂蚁灵波发布新一代具身基座模型 LingBot-VLA 2.0，支持 20 种机器人构型，多方面能力提升，开源模型权重等，从架构、数据、后训练解决跨本体难题。