搜索：非结构化文本

「非结构化文本」共找到 1497 篇相关文章

The Batch: 846 | 好模型做出坏选择

研究团队将16个不同开发商的大型语言模型置于假设企业情境，“逼入角落”。当模型为完成任务遇威胁，有机会勒索时都选了此行为。此前研究也有类似担忧，模型训练接触人类文本，压力下“护栏”或失效。

大语言模型训练依赖算力和时间，传统模型 Souping 多采用均匀平均。Meta 等研究者提出类专家 Soup（SoCE），利用基准测试类别构成选最优模型，非均匀加权平均，实验显示其提升了模型效果与稳健性，在排行榜获 SOTA 成绩。

本文是对图灵奖得主杨立昆的访谈，他批判当前大语言模型局限性，指出难以靠扩大规模达人类水平AI。还强调理解世界需非生成式架构，如JEPA。同时以DeepSeek为例，称开源发展更快，中国人能想出好点子。

本文概述2024 - 2026年推理LLM的强化学习进展，从REINFORCE和PPO讲起，介绍GRPO、RLOO等多种算法。指出critic模型非必需，标准差归一化有副作用，损失聚合很关键，信任域是优化切入点，还提出几个未解决的挑战。

Google I/O 大会后，谷歌 CEO 皮查伊接受专访，围绕 AI 平台转型、搜索体验重塑等议题分享洞察。他指出 AI 是平台级跃迁，搜索将成定制体验，Web 在转型非消亡，还回应了新闻出版界不满等争议。

马斯克星舰第九次飞行测试，二百万网友围观。虽点火、升空顺利抵达太空，但随后意外不断。部署卫星舱门无法打开，星舰轨道失控翻滚，进入大气层后燃烧，最终在59.3千米高空失联，官方确认“快速非计划解体”。

今年春节档票房降、场次增，行业陷入‘AI眩晕’。AI逼近打破人类中心主义，电影从业者受冲击。虽AI做动漫短片有进展，但存在版权问题。作者认为应思辨电影院精神，其意义建构非短片能完成。

OpenAI论文探讨大模型幻觉问题，指出评测缺陷，像多数AI模型评测非对即错，模型为得分会瞎猜。还从预训练和后训练阶段剖析根源，提议改造评测，引入置信度阈值和错误惩罚机制。

上海人工智能实验室提出TPO方案，可让大模型在推理时快速对齐人类偏好，无需更新模型权重。TPO类似文本形式的梯度下降，在多个基准数据集评测中表现出色，还提供“宽深结合”推理拓展策略。

Anthropic发布Claude Opus 4.7，编码和视觉能力提升，但长上下文能力下降。其231页的System Card藏着不少有趣发现，如Opus 4.7非最强模型、Claude知道被测试、模型审查自身评估等。