「挑战与机遇」共找到 7142 篇相关文章
ICML 2025 Oral | 从「浅对齐」到「深思熟虑」，清华牵头搭起大模型安全的下一级阶梯
在大语言模型加速进入高风险应用场景当下，“安全对齐”是挑战。如今广泛采用的“浅对齐”脆弱不堪。清华团队提出STAIR框架，能提升开源模型鲁棒性，还推出RealSafe - R1模型进行安全对齐。
Meta｜提出RECAP，通过动态目标重加权回放，解决RLVR遗忘【文末送书！Agent相关】
近年来，可验证奖励强化学习（RLVR）提升了大模型在多任务上的性能，但带来“能力退化”问题。Meta等提出RECAP策略，结合“回放”与“动态目标重加权”，保持模型通用能力，提升推理性能，还提高推理效率。
让机器人看视频学操作技能，清华等全新发布的CLAP框架做到了
近日，清华联合星尘智能、港大、MIT提出 CLAP 框架，能将视频运动空间与机器人动作空间对齐，解决‘数据饥荒’‘视觉纠缠’等问题，可让机器人从视频学技能，还缓解知识迁移难题，推动机器人产业化。
DeepSeek-V3.2被找出bug了：疯狂消耗token，答案还可能出错，研究人员：GRPO老问题没解决
DeepSeek-V3.2虽强且火爆，但被发现存在bug，即浪费token问题。研究者指出这源于GRPO算法的‘隐藏偏见’，虽修正了‘难度偏见’，但‘长度偏见’仍在，官方也承认token效率是挑战。
2025 中国最具价值 AGI 创新机构 TOP 50 调研启动征集！
这一年AI发展迅猛，从产品到模型都有诸多突破。在此背景下，Founder Park发起调研，寻找在技术、商业与场景融合中率先突破的关键变量，将选出50家创新机构，申报截止5月31日。
对谈openai首席产品，AI时代的产品思路。
知名播客主理人Lenny对OpenAI CPO Kevin Weil进行访谈，分享了OpenAI内部的产品哲学，包括Model Maximalism、Iterative Deployment、Evals等方法论，还谈及AI技术演进、未来机遇等思考，鼓励培养核心能力应对AI变革。
图像分层生成：新加坡国立大学和Lowart AI实现了图像可编辑的PSD文件输出
新加坡国立大学和Lowart AI发布OmniPSD，利用Diffusion Transformer架构解决分层图像生成与拆解难题，实现可编辑PSD文件输出。它能通过文本生成分层PSD文件，也能拆解单张平面图像，解决AI生成图像难编辑痛点。
阿里Qwen又悄悄放出8个开源权重，卷疯了~
阿里通义千问太卷，悄悄放出8个开源模型权重，包括体积更小的Qwen3-VL及FP8权重。这一代实现全方位升级，提供两种架构、两个版本，架构也有更新，还给出使用示例与模型权重链接。
突发！Cursor一夜干掉了GitHub
美东时间上午，GitHub全面瘫痪7小时，核心服务瘫痪3小时。而Cursor正式并入SpaceXAI后甩出全新代码托管平台Origin。它专为Agent时代设计，功能强大，亮点诸多，还支持与GitHub同步。
微软开源了一款 skill 神器，这下爽了！
近期微软开源桌面应用 `Skill Recorder`，1个多月揽3K star。它能录屏幕操作，借助 GitHub Copilot CLI 生成可复用 Skill 或 Automation，与 RPA 思路不同，有泛化能力，可按命令快速安装。