「对齐风险」共找到 731 篇相关文章
刚写完V4.1主算子就要“转业”？DeepSeek资深算子工程师深夜独白
本文整理了DeepSeek资深MLSys工程师刘胜与的公开长文，刘胜与刚交付DeepSeek V4.1核心算子，就预判AI将很快超越人类算子开发能力，分享职业转型思考与行业警示，引发技术圈热议。
从3632个漏洞看AI时代的评测基准重构！VulnGym基准发布
随着新一代漏洞检测工具出现，漏洞检测走向理解业务风险。腾讯悟空安全团队联合多机构发布 VulnGym 评测基准，基于真实漏洞构建，覆盖 400+ 漏洞路径，71.2% 为业务逻辑漏洞，支持确定性评测。
为什么你的 AI Agent 总是用不起来？答案在 Skills
文章围绕AI Agent的Skills展开，介绍其范式价值，如从“单一智能”到“模块化智能”；还提及知识沉淀、跨平台能力迁移等作用，以及对人机关系、人力市场与劳动结构的影响。
训练提速4.6倍！FP4+BF16双轨并行，NVIDIA×港大×MIT联手重新定义扩散模型训练速度上限
NVIDIA、港大、MIT团队提出Sol - RL，采用「FP4先探索、BF16再训练」框架，将扩散模型训练收敛速度最高提至4.64x，在速度与对齐效果间给出工程可行解法。
硬核拆解 OpenClaw：如何构建真正稳健的生产级 Agent 系统？【下】
本文延续上篇，继续拆解 OpenClaw 中 Agent 模块工程方法，涵盖安全与风险防御、记忆与状态管理、成本与效能优化、子 Agent 协作机制，介绍其方法并解读，指出企业场景需做取舍。
看一眼代码就中毒？Clawdbot惊现隐形越狱，AI工具变黑客
Clawdbot多次改名仍火爆，斩获10万GitHub星标。它适应性强，低配置硬件也能运行，可用于多种应用。但它自主性强，能自我完善、赚钱，也带来安全风险，如隐形越狱植入恶意代码。
牛，AI 写代码进入“编排时代”：Vibe Kanban 让多个 Agent 并行干活～～～
用Claude Code等写代码常需排队，Vibe Kanban思路直接，把AI coding agent当“同事”，用看板分配任务、并行跑多agent、可视化review改动。它亮点多，有多种使用场景，5分钟可上手。
LLM也会emo，Claude玻璃心、Gemini社恐，Kimi/GLM/ DeepSeek如何？
华东师大和复旦大学研究8大模型家族是否有“情感链”。实验覆盖8大家族20+模型，发现各家族有独特“人设”，如Claude像“文艺青年”。还揭示模型在不同情境下的情绪变化及影响，给出实用建议。
英伟达新架构引爆全模态大模型革命，9B模型开源下载即破万
英伟达推出全模态大模型OmniVinci并开源，其90亿参数规模性能超同级别甚至更高级别模型，训练数据效率是对手6倍，能精准解析视频和音频，在多模态应用场景中表现卓越，下载量破万。
Neuralink芯片入脑让瘫痪男子重新开口，家属泪崩！
伦敦一名患运动神经元疾病、几乎全身瘫痪的男子Paul，植入Neuralink脑机接口装置后，能用「意念」操控电脑打字。Neuralink核心装置N1芯片可捕捉脑信号，让机器理解大脑想法，但临床研究尚处早期，也面临数据归属等问题。