「方向鲁棒性」共找到 814 篇相关文章
EMNLP2025 | LLM多次回答一致就一定正确吗？非也
随着LLMs在高风险领域广泛应用，其输出的事实性错误引发安全质疑。中科院计算所和美团团队论文揭示自我一致错误，传统检测方法对此失效，提出跨模型探针法提升检测能力。
阿里：RL强化LLM推理，是技巧还是陷阱？
近年来，强化学习（RL）成为解锁大型语言模型（LLM）复杂推理能力的关键工具，但该领域也面临技术选择困境。阿里联合多所高校的论文通过大规模可复现实验，揭示主流RL技巧的机制与适用场景，还发现极简组合（Lite PPO）性能超越复杂方案。
OpenAI首席科学家访谈被紧急制止！有些名字现在不让说了……
OpenAI首席科学家访谈时被要求禁止透露重要员工名字，因Meta常挖人。GPT - 5将发布，奥特曼谨慎应对。此外，还介绍了OpenAI研究方向、瓶颈，以及其他公司在挖人大战中的举措。
刚刚，清华团队用27M参数击败o3-mini！或将改变AI发展方向
清华大学研究团队发布论文，展示Hierarchical Reasoning Model（HRM）。该模型仅27M参数、1000个训练样本，在推理任务上击败OpenAI的o3 - mini - high，或改变AI发展方向。
马斯克的Neuralink梦想成真？意识连续谱理论震惊科学界！
美国发育生物学家Michael Levin探讨意识与自我组装关系，强调意识是连续谱系。他从生物自我组装过程、意识与身份特性等多方面阐述，还呼吁用开放视角理解意识本质，并提出研究方向。
ICML 2025 Oral | 从「浅对齐」到「深思熟虑」，清华牵头搭起大模型安全的下一级阶梯
在大语言模型加速进入高风险应用场景当下，“安全对齐”是挑战。如今广泛采用的“浅对齐”脆弱不堪。清华团队提出STAIR框架，能提升开源模型鲁棒性，还推出RealSafe - R1模型进行安全对齐。
AI竟会「自己认错」？破解多智能体协作「罗生门」，斩获ICML 2025 Spotlight
多智能体AI系统任务失败后，开发者常难定位问题。PSU、杜克大学与谷歌DeepMind等机构提出「自动化失败归因」，发布Who&When数据集，探索三种归因方法，虽目前效果欠佳，但为打造可靠系统提供方向。
DeepSeek-R1发布100天后：全面复盘推理大模型复现研究及未来！
推理语言模型（RLMs）发展显著，DeepSeek - R1发布引发广泛影响且未完全开源。MiroMind等总结其复现研究，关注SFT和RLVR方向，介绍数据构建、方法设计、训练过程细节及实验关键发现。
AI 群星闪耀之前，商汤先相信那群少年
文章讲述商汤奖学金支持青年科研者的故事。自2017年设立，已资助280位本科生，在他们未成名时给予信任与支持，不仅是奖金，还提供资源和网络，获奖者们正从不同方向推动AI发展。
从沙子到会“思考”的智能材料，张朝阳与物理学家刘若微揭秘世界的底层逻辑
8月12日，张朝阳与刘若微教授围绕“复杂的世界：从沙子到智能”主题，从沙堆、泡沫切入软物质与非平衡统计物理前沿，探讨阻塞相变、低功耗类脑智能材料研究路径及未来潜力，还分享科研感悟。