「语言模型安全」共找到 8351 篇相关文章
陈丹琦新作：大模型强化学习的第三条路，8B小模型超越GPT-4o
陈丹琦团队提出结合RLHF和RLVR优点的RLMT方法，支持在基础模型上直接使用，节省后训练成本。它让模型生成CoT，用奖励模型评价输出，使小模型超越大模型，推理更像人类。
Fable第一，谁第二？Anthropic钦点8款模型名单曝光
Anthropic官宣Claude Fable 5全球上线，公布安全测试结果，8款模型包括中国的Kimi K2.7。北美公司也用行动认可中国模型，Kimi在多方面表现出色，其商业模式类似Anthropic，未来潜力大。
利用大模型检测钓鱼邮件:方法，效果及数据集
随着企业安全防范增强，钓鱼邮件成重要攻击手段，大模型检测方法盛行。日本论文详细披露检测方法和实验数据，含解析解码、简化邮件、生成prompt、调用LLM四步，还介绍数据集及评估了四个模型效果。
国产开源模型越多，模型路由的机会越大
中国大模型市场模型增多，能力相近、价格降低且部分开源。开发者选择多但企业选模型难，价值向调度层转移。开源改变产业结构，Routing业务有价值且至少含四层，中国Provider Routing易落地。
智谱 GLM-4.5 团队深夜爆料：上下文要扩、小模型在路上，还承诺尽快发新模型！
今日凌晨，GLM系列模型四位研发成员在Reddit的AMA活动中，回答了GLM系列技术细节、未来规划等问题。透露扩展上下文、推小模型是重点，还承诺尽快发新模型，也探讨了大模型发展观点。
五角大楼计划将绝密数据喂给AI，训练军事特供版模型
《麻省理工学院技术评论》称，五角大楼正讨论为生成式人工智能公司建安全环境，用机密数据训练军事特定版本模型。美国军方重构战略，推动先锋项目，还筹备用绝密数据训练模型，引发安全担忧。
黄仁勋CES最新演讲：Rubin 今年上市，计算能力是 Blackwell 5 倍、Cursor 彻底改变英伟达软件开发方式、开源模型落后于先进模型约6个月
英伟达CEO黄仁勋在CES 2026演讲宣告AI从理解语言走向改造物理世界。他提及开源模型发展，还发布多款新品，如AlpaSim仿真框架、GROOT 1.6机器人模型、AI超算Vera Rubin等，凸显英伟达在AI领域的布局与野心。
ICLR 2026 | ProSafePrune：一剪见效，告别大模型过度防御
合肥工业大学与科大讯飞联合团队提出全新低秩参数修剪框架 ProSafePrune，被 ICLR 2026 录用。它能精准定位模型认知偏差并修剪，降低过度拒绝率，不损安全防御能力，还提升通用任务性能，为 LLM 安全部署提供新思路。
Nature Machine Intelligence颠覆有机化学研究范式，上海交大发表化学合成大语言模型
上交大AI4S团队依托平台，联合多团队在AI for Chemistry领域获突破。相关研究发表于《Nature Machine Intelligence》，介绍白玉兰化学合成大模型Chemma，它加速有机合成全流程，在多任务表现出色，还能解决数据稀疏等问题。
智能必须基于世界模型？我们和蚂蚁灵波团队聊了聊
上周图灵奖得主 Yann LeCun 认为真正的智能应能在脑海推演，而大语言模型难以触及真实世界。2026 年初，蚂蚁灵波连续四天开源四款具身智能模型，探索从物理交互构建智能的新路径。