「智能体安全评估」共找到 4681 篇相关文章
微调重要表征以增强思维链的推理能力
团队提出关键表征微调（CRFT）方法，通过信息流分析识别和优化关键表征。在八个数学和常识推理基准及两个模型系列验证其有效性，能提高推理准确率，学习参数量低，还适应少样本场景。
AI越训练，越会「满嘴跑火车」！普林伯克利重磅揭秘，RLHF竟是罪魁祸首？
普林斯顿和伯克利研究《Machine Bullshit》，定义并量化LLM胡扯行为，总结四大套路，提出胡扯指数。实验发现强化学习人类反馈训练后，AI胡扯倾向加重，多思考也会让其更会忽悠。
你的衰老速度被科学家拍出来了| Nature子刊
Nature子刊研究推出新指标DunedinPACNI，不看身份证年龄，看“脑年龄”。其数值越高，脑功能衰退风险越高。该指标已开源，或助人们检测身体状况、调整生活方式。
OpenAI员工爆料：已抢先体验GPT-5！7月上线，疑似完全多模态
新智元报道，X上神秘爆料与网友灰度测试经历让GPT - 5讨论再升温。奥特曼称今年夏天可能推出，迈向完全多模态。此外，还提及OpenAI核心团队动态、出走高管新动作及AI发展风险与监管建议。
RL救不了泛化性！揭示LLM数学Reasoning的深层瓶颈
大型语言模型在数学竞赛级任务依赖机械化推理，现有评测集有缺陷。UC Berkeley团队提出OMEGA基准量化其数学泛化能力，实验揭示复杂度引发性能崩塌等问题，指出LLM创新组合难，给出改进方向。
统一框架下的具身多模态推理：自变量机器人让AI放下海德格尔的锤子
当前先进机器人无法像人类自如用工具，现有多模态系统有局限。自变量机器人提出端到端统一架构，以统一表示学习和多任务多模态生成解锁具身多模态推理能力，实现范式转换。
特朗普「全政府AI计划」竟在GitHub泄密！或于7月4日「独立日」上线
特朗普政府AI计划未亮相就在GitHub泄露。ai.gov网站或7月4日上线，要将AI融入政府各部门。该计划由TTS老板Thomas Shedd提出，不过网友质疑其可行性与安全性。
Yann LeCun放出憋了20年的大招：Meta开源V-JEPA 2世界模型
Meta发布V-JEPA 2世界模型，参数高达10亿，推理速度比英伟达Cosmos快30倍。它基于Vision Transformer架构，是Yann LeCun倡导多年的JEPA路线成果，仅需62小时机器人数据训练就能执行任务，打脸质疑者。
直播预约 | Evaluation论文分享@ICML&ACL2025
2025年6月11日20:00将直播分享Evaluation论文。多位嘉宾参与，涉及SyncPL奖励建模、文本事实一致性验证、大模型评测方法等多领域论文，涵盖模型优化、基准测试等内容。
AI时代UI已死？Karpathy称产品要给AI开后门，还分享了自己的AI编程心法
Andrej Karpathy指出，只有复杂UI、无脚本支持、基于不透明二进制格式的软件产品，在AI时代会被淘汰。他给出风险评估清单，还分享AI编程心法，探讨编程中‘验证鸿沟’问题。