搜索：大模型安全评测

「大模型安全评测」共找到 8438 篇相关文章

用「传心术」替代「对话」，清华大学联合无问芯穹、港中文等机构提出Cache-to-Cache模型通信新范式

随着大语言模型发展，多智能体系统中现有T2T交流方式有信息丢失、语义模糊、延迟大问题。清华等团队提出C2C信息传递方式，以KV - Cache为媒介，提升了正确率和速度，还介绍了实现路径、优势及应用前景。

普林斯顿大学助理教授刘壮在访谈中指出，架构没那么重要，数据、规模和记忆才是决定AI成败的关键。他认为ConvNet和Transformer性能差异源于训练细节；当前数据集远不够多样；大语言模型有语言空间的世界模型，但视觉空间的还缺失；记忆是瓶颈，智能体只是权宜之计；AI目前还替代不了研究生。

华人团队提出比DAPT和RAG更方便、成本更低的方法，即“Memory Decoder”预训练记忆模块。它像“领域知识插件”，即插即用、不改原参，能让Qwen、Llama等模型成领域专家，还降低困惑度。

基于时序大模型和Agent的数字技术工人，能承担生产操作等关键任务，接手复杂工业环节。国内AI团队打造的河谷平台构建智能体，自研底层技术，以工艺维度训练，上岗快，极峰科技还创新商业模式。

腾讯混元Phone - use Agent团队发布PhoneBuddy - 4B及5篇系列论文。研究探讨如何训练真实可用的Phone - use Agent，采用Real + Mock方式，实验显示该方法提升效果显著，4B模型多项任务超GPT - 5.4。

AI 前线深度访谈原力灵机范浩强，探讨其创业选择、具身智能技术演进与产业趋势。他认为机器人是 AI 绕不过的点，2025 年硬件与算法拼图开始对齐，原力灵机强调算法先行，还分享了保证算法演进的路线。

现有视频世界模型在长时间交互中易出现运动不合理与场景崩坏问题，核心原因是误差累积。MagicWorld提出面向长时稳定性的交互式建模框架，通过光流约束、历史缓存检索和多步聚合训练，有效缓解误差累积。

62岁软件教父Martin Fowler在The Pragmatic Engineer节目中谈AI对软件开发的影响。他认为当下行业萧条，AI有泡沫，编程从确定性转向非确定性带来挑战，也催生新工作流程，还强调测试、重构等的重要性。

近日，马斯克旗下 xAI 推出新 AI 模型 Grok 4 Fast，将非推理与推理能力整合，少用 40% token 追平 Grok 4，运行成本降 98%。它有 200 万 token 窗口，多平台可用，部分范围免费。

本文聚焦基于模型的离线强化学习，指出RAMBO算法存在保守性难控和训练不稳问题。为此提出ROMI方法，引入鲁棒价值感知框架与隐式可微自适应加权机制，在多基准任务上超越基线算法。