「未对齐行为」共找到 1131 篇相关文章
为什么大模型会产生幻觉？OpenAI最新研究终于搞清楚了
OpenAI发布研究论文剖析LLM幻觉根源，指出当前主流训练与评估体系是核心驱动因素之一。现行评估奖励猜测行为，幻觉起源于预训练的‘下一词预测’，论文还澄清五大误区，建议改革评估体系。
快手发布Keye-VL-1.5，同量级SoTA，让模型真正看懂视频！
近年来，多模态大语言模型兴起，但视频理解仍是难题。快手Keye团队推出Keye-VL-1.5，通过Slow-Fast编码策略、渐进式四阶段预训练和全面后训练流程等创新，实现视频理解突破，综合性能领先。
AI时代，企业微信5.0的实用主义答卷 | 甲子光年
在AI浪潮下，企业微信5.0于8月20日发布，未推‘无所不能’的AI Agent，而是将AI融入搜索、总结、问答、表格等高频办公场景，解决数据孤岛，赋能内外协作，以实用主义破企业级AI落地难题。
德克萨斯州总检察长指控Meta、Character.AI，误导儿童心理健康
Techcrunch消息，德克萨斯州总检察长Ken Paxton对Meta AI Studio和Character.AI展开调查，因其从事欺骗性贸易行为，误导性宣传为心理健康工具，可能误导儿童。此前已有对Meta调查，两公司均称有免责声明。
逆天改命！OpenAI 开源模型的安全底裤被 Meta 研究员给扒掉了……
Cornell大学兼Meta研究员jack morris成功将OpenAI最新开源的推理专用模型GPT-OSS逆向还原成基础模型，绕过对齐和安全措施，还暴露其训练用大量版权材料问题，此成果引发社区激烈讨论。
硅谷AI大佬都在造末日地堡：小扎夏威夷修了465平米，奥特曼承认有加固地下室
科技巨头奥特曼和扎克伯格是末日堡垒建造者。小扎在夏威夷考艾岛买地建含465平米地下避难所的园区，奥特曼有加固地下室，他们都否认是避难所。此前彼得·蒂尔造地堡计划告吹。
台积电“退场”，氮化镓市场影响几何？
近日，纳微半导体宣布将产品代工从台积电转至力积电，台积电决定2年内退出氮化镓业务。因其代工业务利润低，难达预期，且氮化镓市场竞争激烈。但氮化镓厂商积极应对，市场前景仍被看好。
The Batch: 852 | 加州重新制定人工智能监管框架
加州人工智能前沿模型联合政策工作组发布《加州前沿人工智能政策报告》，为立法者提供监管尖端AI模型的政策原则。报告聚焦前沿模型监管，提出综合多源证据、鼓励信息披露等结论，还探讨了美国AI监管现状。
大模型进入研发体系后，我们看到了这些变化
InfoQ《极客有约》X AICon 直播邀请同程、网易、百度工程师，探讨大模型入研发体系的变化。涉及提效、协作、角色分工等方面，还谈及工程师特质、效率焦虑、岗位数量等问题，6 月北京 AICon 大会将深入交流。
小米发布Qwen2.5VL升级版MiMo-VL，能力提升30%
小米发布Qwen2.5VL升级版MiMo-VL，能力提升30%。它能完成输入视觉回答问题、做几何体等任务，重点解决多模态推理、视觉理解及与人类偏好对齐问题，介绍了模型结构、训练阶段等内容。