「大语言模型推理」共找到 8255 篇相关文章
模型遗忘不代表记忆抹除！首次系统发现「可逆性遗忘」背后规律
研究人员发现大语言模型遗忘并非简单信息删除，可能藏于内部。他们构建表示空间诊断工具，区分可逆与不可逆遗忘，揭示真正遗忘是结构抹除。还在多种方法、数据集和模型上实证，得出系列结论。
太卷了！专属Coding的新一代Arena榜单来了，有国产模型登上榜首
大模型编程竞争激烈，编码能力提升成军备竞赛。LMArena发布新世代大模型编码评估系统Code Arena，国产模型智谱GLM - 4.6登上榜首，其编码能力获认可，彰显国产大模型硬核实力。
现实版“盗梦空间”？欧洲极客论文全网爆火，一战戳破三大巨头安全神话，35万机密在公网裸奔
欧洲两位安全研究员的论文《从专有 LLM API 中窃取推理轨迹》爆火。他们揭示 OpenAI、Anthropic 和 Google 用的“无状态架构”有漏洞，能利用小模型解码大模型推理轨迹，导致隐私泄露等风险。
连续发布两款万亿参数模型，蚂蚁 AI 来势汹汹
国庆期间大模型行业热闹非凡，各团队产品侧重不同。蚂蚁百灵大模型团队在十天内连续发布并开源两款万亿参数模型 Ling-1T 和 Ring-1T-preview，引发关注。万亿参数模型难训，国内达到此规模的屈指可数。Ling-1T 综合性能出色，应用场景广泛。蚂蚁选择开源，意在构建开放 AGI 生态。
宇树智元共用一个大脑！神秘模型Demo炸场，10分钟一镜到底
一条10分钟一镜到底的Demo视频引发关注，视频中宇树和智元的机器人同用一个“大脑”，完成多种任务，如擦窗、收纳等，还展现出跨本体协作等能力。该模型跳出主流具身模型固有框架，或改写具身智能行业认知。
AI 推理精细化流量治理实战：RocketMQ LiteTopic 的“千人千面”流控方案
随着大模型推理服务成主流，传统消息队列限流机制在AI推理场景面临挑战。Apache RocketMQ 5.x推出LiteTopic，其精细化流量治理方案能实现‘千人千面’，解决队列头部阻塞和并发效率受损问题，还与阿里云百炼网关合作。
小红书提出DeepEyesV2，从“看图思考”到“工具协同”，探索多模态智能新维度
小红书推出多模态模型DeepEyesV2，它延续视觉推理优势，实现代码执行、网页搜索和图像操作的全工具协同。通过多工具协同推理解决复杂问题，采用两阶段训练策略，准确率远超开源模型。
推理时间减少70%！前馈3DGS「压缩神器」来了，浙大Monash联合出品
在AR、VR等领域，3DGS是新视角合成（NVS）领域备受关注的技术方案。现有前馈3DGS模型存在编码器容量有限等问题，ZIP Lab和Monash团队引入信息瓶颈原理，推出轻量级模块ZPressor，有效解决信息过载难题。
苹果端侧AI两连发！模型体积减半、首字延迟降85倍，iPhone离线秒用
苹果在Hugging Face放出FastVLM与MobileCLIP2两条多模态主线。前者主打「快」，首字延迟压到竞品1/85；后者突出「轻」，体积减半。模型和Demo已开放，开发者可集成开发。
OpenAI公布首颗自研推理芯片成绩，下一代已进入制造阶段
8月25日，OpenAI公布自研推理芯片Jalapeño性能测试结果，首次给出其在多款公开大模型上的具体数据。该芯片在低功耗下实现高推理吞吐量和低延迟，性能超英伟达芯片，B0版已进入制造阶段。