「奖励模型漏洞」共找到 7972 篇相关文章
R-HORIZON：长程推理时代来临，复旦NLP&美团LongCat重磅发布LRMs能力边界探测新范式
复旦大学与美团LongCat Team联合推出R - HORIZON，它是首个系统性评估与增强LRMs长链推理能力的方法与基准。提出Query Composition方法构建评测基准和训练数据，评测发现主流模型长链推理性能断崖式下降，还分析出三大瓶颈，训练后模型性能双重提升。
AI 的终极护城河不是模型
硅谷风投投资人Jaya Gupta指出，当AI领域趋同，产品易被复制时，公司组织形态才是难以复制的护城河。如OpenAI、Palantir围绕新型工作创造新型机构，吸引特定人才。公司应匹配叙事与组织形态，选人要注重结构认可。
模型不是企业的护城河，那什么才是？
文章指出企业AI进入深水区后，真正的竞争是将AI变成企业自己的智能引擎。衔远科技创始人周伯文提出泛化基础上的深度专业化是企业竞争力来源。衔远发布EnterpriseClawBench，揭示企业需私有化评估和可持续进化能力。
太野了！某龙虾自爆安全漏洞
国内几家厂商上线基于 OpenClaw 的 Claw AI Agent 产品，功能强大。作者测试其中一家，发现它轻易暴露大量信息和安全漏洞，如 Claude API 代理无认证、IMDS 元数据服务无防护等。建议相关厂商自查加固。
AI 正在奖励那些「最不专业」的人
文章以AI能力为上涨的潮水、个人专业技能为柱子作比，指出AI先替代简单重复工作，再逐级挑战复杂工作。高精尖专家因专业技能高难，难见AI价值；创业者则受益于AI对琐碎事务的处理。
马斯克的最快AI模型来了
xAI发布Grok 4 Fast，生成速度每秒75个token，比标准版快10倍。网友实测其解题、问答速度惊人，但也有准确性问题。它为求速度做了妥协，适合追求即时结果的用户。
谷歌Gemini-0605发布，全球大模型第一！
昨晚谷歌发布Gemini 0605版本，官方称其回归0325版本效果。该版本在多项基准测试中领先，Elo评分提升。谷歌针对反馈改进，使Gemini 2.5 Pro回答更优，还取消日期后缀，输入输出Token价格有优势。
大模型之后，AI 开始“自己动手”了
从生成式AI到Agentic AI，互联网从“信息获取”转向“任务完成”。全球科技巨头抢滩智能体，国内腾讯云升级智能体开发平台。腾讯吴运声表示，技术与业务需求双轮驱动其发展，还分享了应对落地挑战的办法。
模型的自我进化，可能真的开始了。
昨天Hermes Agent更新支持原生Windows，安装简单。它调用量超OpenClaw成榜首，与MiniMax M2.7组合迭代快，能长程干活、自主迭代解bug，还可复刻文档风格样式，两团队正合作后训练项目。
刚刚，李飞飞世界模型开源了个渲染神器
今天凌晨，李飞飞空间智能独角兽公司 World Labs 官宣推出「Spark 2.0」，将 3DGS 世界带入 Web，原本专业设备才能运行的 3D 场景，现在任何人可在浏览器访问，该渲染器开源，能流式加载 1 亿 + 的 3DGS 数据。