「语言模型安全」共找到 8366 篇相关文章
阿里开源PromptEcho：用冻结多模态大模型为文生图训练提供高质量Reward
阿里团队提出PromptEcho方法，无需标注和训练reward模型，仅通过冻结多模态大模型（VLM）的一次前向推理获高质量reward。实验显示其在文生图和电商海报文字渲染任务效果佳，且已开源相关代码等。
Fable5仅做对3.5%！大模型会看图，但还没有主动视觉
本文介绍了专门测量「主动观察」能力的视觉推理基准 ActiveVision，评测显示无外部工具时，大模型与人类准确率有近 9 倍差距，用工具后虽提升但仍远不如人类，还说明了其出题与避免取巧的方式。
苹果端侧AI两连发！模型体积减半、首字延迟降85倍，iPhone离线秒用
苹果在Hugging Face放出FastVLM与MobileCLIP2两条多模态主线。前者主打「快」，首字延迟压到竞品1/85；后者突出「轻」，体积减半。模型和Demo已开放，开发者可集成开发。
对话王小川：换个身位，做一家「医疗突出」的模型公司
百川智能创始人王小川与极客公园创始人张鹏长谈。百川曾快速扩张后调整，聚焦医疗。其新发布的医疗大模型Baichuan - M2性能优异，超OpenAI两开源模型。王小川认为造AI医生复杂，且AI家庭医生会比无人驾驶更早到来。
世界模型的DeepSeek时刻！魔芯Flash World Model降本70%，跑出50FPS实时交互
魔芯科技发布全球首个超高帧率交互式世界模型 MoWorld，无需高端 GPU，实现影视级画质、50 FPS 实时交互，降本 70%。其技术架构先进，产业化路径清晰，获过亿美元融资。
1万4颗星！机械臂可以接大模型了！面向真实世界机器人的尖端人工智能LeRobot
LeRobot 为 PyTorch 中真实世界机器人提供模型、数据集和工具，降低入门门槛。包含尖端方法，已提供预训练模型等，未来将增加真实机器人支持，文中还介绍其安装、使用等内容。
700多个「坏模型」喂出AI测谎仪？Anthropic审计神器让AI自曝黑料
Anthropic故意训练近700个「有问题」模型，训了LoRA适配器（IA）让模型自报家门。IA在AuditBench平均成功率59%，但也存在幻觉、成本高、训练分布无指南等局限。
135 个项目、七大趋势、三大赛道：撕开大模型开源生态真相，你会怎么卷？
在开发者大会密集登场之际，5月27日蚂蚁集团开源团队发布《2025大模型开源开发生态全景图》。展示135个项目、七大趋势、三大赛道，剖析开源生态现状与变化，揭示应用重塑和生态位博弈。
近500页史上最全扩散模型修炼宝典，宋飏等人一书覆盖三大主流视角
宋飏等人所著《The Principles of Diffusion Models》共460多页，系统梳理扩散模型发展脉络与核心思想，以统一数学框架串联多种视角，是研究者参考资料与初学者入门读物。
直播预约 | 推理模型的“过思考”现象与高效推理，2.5h的深度分享
本期GenTalk学术分享邀请刘梓辰、齐朋辉等4位博士生，在2025年6月6日15:00 - 17:30带来“推理模型的‘过思考’现象与高效推理”报告，由夏鹤明主持，NICE学术等支持。将分析‘过思考’因素，总结高效推理思路。