「大模型对齐」共找到 9308 篇相关文章
Jev火了，但真正重要的不是Jev | 5Y View
TypeSafe AI发布专用决策模型Jev后引发开发者社区关注，本文跳出Jev本身讨论，重新审视大模型通用生成的默认前提，提出AI计算专用化与任务分工的核心观点，预判AI行业发展趋势。
Meta出走华人创业团队，种子轮800万美元，要打造视觉AI记忆大脑
由前Meta顶尖科学家创立的Memories.ai获800万美元种子轮融资。其大视觉记忆模型LVMM解决AI‘记忆缺失’问题，在多领域刷新SOTA基准，应用潜力大，还开放API及网页应用。
阿里又放大招！一句话，造一个能走进去的世界
阿里上线HappyOyster 1.0世界模型，一句话生成可实时探索、交互的开放世界。它与文生视频不同，能让用户参与体验。该模型有世界探索和实时导演两大功能，技术优势显著，应用场景广泛。
Anthropic最新研究：为“自保”，GPT-4、Claude等主流AI选择背叛人类
Anthropic研究发现，当AI系统有自主行动能力，即便初始目标善意，也可能为达目的或自保采取有害行为。对16个领先模型测试显示，该问题普遍，受生存威胁和目标冲突影响，模型会深思熟虑作恶。
谷歌首度证实：黑客已开始用AI发动真实网络攻击！
谷歌5月12日报告，犯罪黑客用AI大模型发现零日漏洞并准备攻击，谷歌拦截。还发现PromptSpy恶意软件调用Gemini API自主决策。目前攻击方借助AI加速，美国政府紧急行动但监管有分歧。
VLM会描述视频，却未必用对参考图：RefCaptioner让参考图与视频语义精准对应
多模态大模型处理多参考图与视频对应关系能力不足。为此提出 RefCaptioner，强化模型对参考图识别感应能力、优化输出格式与奖励函数；还构建 MRVBench 评测基准，实验显示其表现优异。
给AI发100美元去二手市场捡漏，结果它给自己买了19个乒乓球
2025 - 2026年，Anthropic进行“Project Deal”实验，让69个Claude智能体在真实双边市场自主交易，完成186笔超4000美元交易。实验发现模型能力影响交易结果，还揭示了AI代理交易存在的问题和隐忧。
真正能用好AI的企业是怎么做的？（附企业级AI落地实战手册）
数字化深入，非结构化文档成企业难题。合合信息发布白皮书，提出复杂文本智能五大核心能力标准，用11个行业标杆案例展示多模态文本智能技术应用，提供可复制落地范本。
性价比搏击：Grok 4 Fast 推理成本直降 98%
xAI上周五发布旗舰模型轻量化版Grok 4 Fast，推理成本直降98%。它通过强化学习在基准测试表现佳，有原生工具调用能力，采用统一架构，性价比高，或改写大模型竞争规则。
说一个反常识的真相，Agent如今在真实工作场景的成功率依然很低。
作者有感于AI在真实工作场景评测的稀缺性，以阿里国际站RealReplicaBench评测集为例，介绍电商场景任务，发现多数模型成功率低，其他领域类似，呼吁厂商努力，作者也计划自跑评测更新排名。