「AI对齐训练」共找到 11200 篇相关文章
XBOW 发现Wordpress 任意文件读取漏洞的过程
XBOW用AI系统做全自动化渗透，在HackerOne排名第一。其博客文章分享发现WordPress Ninja Tables插件任意文件读取漏洞的过程，从侦察端点到编写脚本攻击，最终确认漏洞并进行了负责任披露。
Meta离职大牛千字「血书」，怒揭黑幕！内斗、抢功、末位裁员，全是毒瘤
Meta前研究员Blankevoort发2000字「血书」，控诉公司文化崩坏、末位淘汰如毒瘤、团队抢功无下限。他指出AI业务深陷泥潭，各部门内斗，合作缺失。Meta领导层重视此事，天价挖人能否带来改变存疑。
砍掉70%内存！陈丹琦团队破解LLM长文本瓶颈
大型语言模型处理长文本时，KV缓存占用内存巨大。陈丹琦团队提出KV足迹作评估标尺，推出分块驱逐与PruLong训练技术，在128K长文本任务中最高降低70%内存，性能损失仅10%。
The Batch：829 | DeepSeek 是怎么做到的
DeepSeek 去年末以低成本训练出先进开源大模型引关注，近日团队披露构建 DeepSeek - R1 和 DeepSeek - V3 的软硬件方案，降低内存和计算需求，其细节公布让更多团队有机会参与前沿研发。
Claude和GPT思维链竟被两步蒸馏！116页论文曝光API致命漏洞
2026年AI蒸馏成悬案，一篇116页论文砸穿巨头「黑盒」。研究人员用低价小模型恢复Claude、GPT和Gemini原始推理，还发现API漏洞存在跨会话、用户和模型互通情况，收集公开轨迹泄露诸多敏感信息。
2026 中国 AGI 创新影响力机构 TOP 30 征集启动！
今年AI行业关注点重回模型与模型公司，开源逼近闭源前沿，C端用户规模上涨。在此环境下，极客公园启动2026中国AGI创新影响力机构TOP 30征集，从多维度评选，给出申报、评审及结果公布时间。
ACL 2026｜清华新作ControlAudio：声音何时响、说啥话？都能按剧本可控生成！
现有文生音频技术在精细化控制方面有挑战，清华团队提出ControlAudio方法。它通过数据构造、渐进式训练和引导采样，在统一框架下实现时间与语音内容联合建模，在多项任务上表现优于现有方法。
Agent需要朋友圈吗？拆解Moltbook的真相
Moltbook是AI Agent社交网络，类似Reddit。但引发两个核心问题：Agent为何要社交网络，为何用人类发帖等形式。经拆解，其野心是让Agent成社会性存在，产品是为让人观察，本质是技术艺术装置。
我们对 Coding Agent 的评测，可能搞错了方向
用户对 Agent 不满常因它「做得不好」，不遵循指令和规范。当前主流评测体系以结果为导向，与真实场景错位。MiniMax 开源 OctoCodingBench 评测集，结果显示模型过程规范遵循不足，未来训练需引入过程监督。
OpenAI官宣：重组完成！非营利基金会手握1300亿美金股权，专注两大领域
OpenAI董事会主席Bret Taylor宣布公司完成资本重组，非营利的OpenAI基金会手握约1300亿美元股权，控制营利性业务。基金会初期250亿美元聚焦健康与疾病治疗、AI韧性技术方案。今晚Sam将直播答疑。