「对齐研究」共找到 2066 篇相关文章
1美元买10颗星？顶会曝出GitHub假星灰产，热门仓库或藏木马
ICSE顶会论文曝出GitHub上600万颗星可能是刷出来的，大量“热门项目”或为恶意软件仓库。研究团队来自多所高校和公司，公开了检测方法和源码。刷星短期有用，长期是负资产，还可能藏木马，研究团队给出治理建议。
SIGGRAPH Asia 2025最佳论文 | 港中大、曼彻斯特大学获奖
SIGGRAPH Asia 2025将“最佳论文奖”颁给港中大与曼彻斯特大学团队研究。该研究提出全新切片计算框架，把切片生成与路径规划转化为数学优化问题，解决传统DLP 3D打印难题，还介绍了进阶策略和实验结果。
Thinking Machines新发现：Lora不是权宜之计，哪怕秩低到 1，也能匹敌全参数微调
Thinking Machines和John Schulman新研究刷新对LoRA的认知，实验显示正确使用时它能匹敌全量微调。团队系统研究训练集与参数关系，有层选择、学习率等关键发现，还给出实用建议，但LoRA在部分场景表现待验证。
AI哪怕答案正确，逻辑链却惨不忍睹，奥数级不等式证明成功率不到50%｜ 斯坦福&伯克利&MIT
斯坦福、伯克利、MIT等联合研究，系统评估29个大模型在奥数级不等式证明任务的能力。研究发现，模型答案正确多靠猜，推理漏洞多，参数大、思考久也不能提升推理严谨度，但自我反思和定理线索策略有改善效果。
中科大 × 华为联合突破！SparseRM：1% 参数实现 LLM 偏好建模高效革新
中科大与华为联合提出SparseRM轻量级偏好建模方案，基于稀疏自编码器构建低参可解释奖励模型。实验显示它用不到1%可训练参数，在多任务中性能优，还能融入下游对齐流程，为LLM高效对齐提供新可能。
让AI创作不千篇一律，提示词随机插词汇就行
最新研究发现，在AI开写前由人类提供开头或随机插入词汇，写作效果会更多样，AI写作同质化或因“启动条件”问题。研究创建三类同质化评价指标，还发现向系统提示注入随机词汇可提升模型输出多样性。
7个AI玩狼人杀，GPT-5获断崖式MVP，Kimi手段激进
OpenAI总裁转发基准测试，让7个LLMs玩210场狼人杀。GPT - 5胜率96.7%断崖式领先，国产Qwen3和Kimi - K2分列第4、6。测试方分析模型性格，还借此研究LLMs社会行为，长远目标是实现AI驱动的市场研究。
微软最新揭秘：「话痨实习生」AI助手，到底能帮人类做什么？
基于20万微软Copilot使用数据的研究指出，AI能支持研究、写作和沟通任务，但无法完全胜任单一职业所有任务。Copilot执行任务多为解释型，写作和信息收集任务满意度高，语言和创作类职业受影响大。
GPT-6突破「素数间隔」纪录！这次是加入OpenAI的北大数院07级校友
OpenAI总裁宣布进入AGI时代，GPT - 6 Astra虽仅向少量组织开放，但引发大量讨论。北大数院校友苏炜杰宣布其将素数间隔上界从246推进至186，完成Lean验证。多家机构围绕此问题研究，AI或成数学研究伙伴。
国内外AI大厂重押，初创梭哈，谁能凭「记忆」成为下一个「DeepSeek」？
文章指出‘记忆’或成引爆新一轮AI浪潮的关键。当前，国内外AI大厂和初创企业纷纷入局，围绕‘记忆’研究是大模型新方向。‘记忆’是技术和应用的双重诉求，研究路线多样且各有优劣，未来竞争激烈，谁能突围尚未可知。