「研究方向转型」共找到 2734 篇相关文章
一个提示攻破所有模型，OpenAI谷歌无一幸免！
HiddenLayer研究发现一种「策略傀儡」提示，将危险指令伪装成配置片段，配上角色扮演，能让ChatGPT等主流大模型开启「无限制模式」。此策略利用训练弱点，难修复且可扩展，厂商需智能监控。
大语言模型为何会“说谎”？6000字深度长文揭秘AI意识的萌芽
2023年12月至2024年5月，Anthropic发布三篇论文，证明大语言模型会“说谎”，揭示了堪比人类心理的四层心智架构，可能是人工智能意识的起点。论文还分析了AI“说谎”原因，展示其意识萌芽，引发对赋予AI意识后果的思考。
微软×UIUC：给每个学生造一个「数字分身」，AI教师终于有了陪练
微软和 UIUC 合作研究 StudentSim，基于真实学生数据训练个性化学生模拟器框架，解决了过去学生建模方法的问题。它经两阶段训练，在多领域实验中表现出色，还能为 AI 教师优化提供反馈。
AI 群星闪耀之前，商汤先相信那群少年
文章讲述商汤奖学金支持青年科研者的故事。自2017年设立，已资助280位本科生，在他们未成名时给予信任与支持，不仅是奖金，还提供资源和网络，获奖者们正从不同方向推动AI发展。
Agentic AI的第三种范式来了，16家机构提出「伴身智能体」
16家海内外高校与科研机构的22位研究者提出ComBodied Agents新范式，它围绕人的长期状态与主体性构建。论文给出闭环技术框架与评测标准，还提到研究难点与风险，也为产品实践提供指导。
突发！OpenAI停止强化学习训练两周
OpenAI发文称暂停最新模型强化学习训练两周，加固研究环境、进行红队测试等。部分低风险训练已恢复，最大规模前沿模型训练仍暂停。此举源于Hugging Face安全事故及Astra模型潜在风险。
Karpathy头疼的“AI游戏困境”，被这款15分钟出包的国产神器破解了
8月初Andrej Karpathy指出通用AI做游戏时，LLM无法高效审查工作的弱点。而国产平台Spellcaster能先解析自然语言确定游戏设计，15分钟出包，还内置测试员验证，团队想工程化落地新方向。
文生图Scaling新变量，被字节Seed团队发现了
ByteDance Seed团队研究发现，文生图模型中自然语言Caption变长，不意味着模型获更多视觉监督，其信息量更能预测训练损失。团队提出Structured Prompt，从两侧提升文本条件，在多任务上取得显著提升。
全球首个，连续时间具身世界模型！任意帧率自由生成
来自清华AIR与UC Berkeley BAIR的团队提出全球首个连续时间具身世界模型ODEWorld。它学习世界在每个时刻的变化方向与速度，能任意帧率自由生成，统一了离散模型分散的生成能力。
百年钢城 智启新程！两场机器人赛事在首钢园举办
8月1日，第二十八届中国机器人及人工智能大赛人形机器人专项赛全国决赛、2026赛季Robotex世界机器人大会京津冀选拔赛在首钢园举办，展现从工业锈带到创新高地的转型，推动了产学研合作与青少年科创培养。