搜索：语言模型安全

「语言模型安全」共找到 8357 篇相关文章

对话清华商宇丨从生成视频到支撑行动，世界模型需要新的评测标准

文章围绕清华团队提出的 WorldArena 评测框架展开。它针对具身世界模型，对过去沿用视频生成的评测逻辑重新审视，从视觉质量和功能性任务两维度评估，推动世界模型从‘生成世界’迈向‘使用世界’。

OpenClaw等智能体能力强大但有安全黑洞，南方科技大学和香港科技大学团队推出ClawLess框架，从底层系统调用源头扼杀智能体出格行为，通过形式化验证、物理隔离、动态验证等手段保障安全。

DeepSeek发布新模型DeepSeek - OCR，在实用场景达SOTA且token消耗最少。Karpathy赞其或淘汰tokenizer，Pleiasfr联合创始人称是里程碑。开发者Simon用Claude Code让模型在NVIDIA Spark上跑通。

微软推出蒸馏框架BitNet Distillation，实现几乎无性能损失的模型量化。它含三阶段，经实验在多下游任务表现近全精度模型，降内存开销、提推理速度，作者全是微软研究院华人。

上海科技大学联合上海人工智能实验室对爆火的智能体OpenClaw做安全审计，在34个测试场景中，整体安全通过率58.9%，暴露出多方面问题，研究据此给出纵深防御策略。

谷歌推出首个原生多模态嵌入模型Gemini Embedding 2，通过Gemini API和Vertex AI公开预览。它将文本、图像等映射到统一向量空间，支持多模态交错输入，性能超越现有领先模型，开发者可快速接入。

字节推出Seed，其Robix视觉—语言单模型能搞定机器人推理、任务规划和自然语言交互，核心采用思维链推理和三阶段训练策略，效果超Qwen2.5 - VL、GPT - 4o等，负责人是李航。

近期，DeepSeek发布V3.1新模型，采用全新混合推理架构，在多任务表现上有提升。它采用UE8M0 FP8，或为国产推理芯片优化机制。国内多家厂商新一代AI芯片支持FP8，未来国产大模型或针对其专门优化。

本周二，刚被SpaceX收购的Cursor在首届旗舰大会宣布新的1.5万亿+参数模型，在超10万块GPU预训练。Cursor CEO称其规模与Opus、GPT相当，还谈了对其他AI实验室看法，新模型将几周内发布。

合肥工业大学团队提出大模型存在‘隐藏的真伪认知’，论文让模型用此给推理‘打分’，过滤错误推理链。通过多层注意力头探测、构建预测器和新推理扩展策略，提升了推理链稳定性，实验效果优异。