「语言模型安全」共找到 8496 篇相关文章
从 Chat 到桌面 Agent：我在一台旧 Windows 上，看见了办公的未来
本文作者作为Mac老用户，为体验昆仑天工研发的Skywork桌面Agent，找来旧Windows电脑测试。该产品定位是接管电脑工作世界，解决办公任务处理和安全隐私问题，还介绍了其功能和使用效果。
硅谷一线创业者内部研讨：为什么只有 5%的 AI Agent 落地成功，他们做对了什么？
来自硅谷一线AI创业者数据显示，95%的AI Agent在生产环境部署失败，原因在于围绕模型搭建的脚手架不完善。文章基于研讨会内容，探讨AI Agent构建关键，如上下文工程、安全控制、记忆功能等，并指出待解决问题和未来方向。
中学生就能看懂：从零开始理解LLM内部原理【十三】｜GPT 架构如何工作 ？
本文是对GPT架构工作原理的解读。介绍了GPT与Transformer的关系，阐述其从输入文本到预测下一词概率的流水线，详述训练和推理流程，还提及GPT架构进化的混合专家（MoE）模型。
刚刚，Anthropic发布Sonnet 5，性能接近Opus 4.8，但不一定更便宜
Anthropic发布Claude Sonnet 5，称其为最具Agent属性的Sonnet模型。它在推理等方面性能提升，接近Opus 4.8且价格低。安全评估有改善，但网络安全逊于Opus 4.8。已正式可用，有优惠首发价。
ChatGPT Images 2.0震撼发布！碾压谷歌Nano Banana，设计真要完了
北京时间凌晨3点，OpenAI发布ChatGPT Images 2.0，是先进模型，能处理复杂视觉任务。它精度控制力高、多语言能力强，风格表达成熟，支持多种宽高比，有现实世界理解能力等，已向相关用户开放，但也有局限性。
超越MLA！新架构MLRA百万token，解码最高2.8倍速 | ICLR'26
大语言模型处理长文本时，自回归生成受限于显存带宽。为减少KV缓存开销，业界尝试多种方法，但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA，拆分KV缓存为四个并行分支，降低显存占用，实现4路张量并行，性能更优。
Temperature Scaling可大幅提高Test-Time Scaling瓶颈！
大型语言模型解决复杂推理问题时，测试时扩展（TTS）是提升性能的途径之一。但传统TTS依赖增加样本数量，性能提升有瓶颈。本文提出温度缩放新思路，实验表明其能大幅提升性能，还给出降低成本方法。
奥特曼亲自上阵，Images 2.0登顶王座！大米刻字，生图跨入GPT-5时代
OpenAI上线ChatGPT Images 2.0，奥特曼称其是从GPT - 3到GPT - 5的飞跃。它是首个‘会思考’的图像AI，能精准听懂中文指令、渲染复杂UI，在Arena榜单登顶，解决了多语言、风格等痛点。
AI三问：Agent、LLM、RAG，一文厘清！
文章介绍大语言模型（LLM）、检索增强生成（RAG）和AI智能体（Agent）三种架构。阐述其概念、工作原理、应用场景、优缺点，还做了横向对比，给出选用建议，最后提及混合架构与未来趋势。
从数据分布视角，重新认识下CoT
本文从数据分布视角重新审视大语言模型的思维链（CoT）推理。指出CoT并非真正推理，而是模仿，其效果受训练与测试分布差异影响。通过实验揭示CoT在分布偏移时性能退化，提醒勿过度依赖。