「并行推理加速」共找到 2696 篇相关文章
三星研究院发布手机端侧大模型MeKi：基于Memory的LLM扩展新范式，支持旗舰手机端侧部署
三星研究院发布端侧大模型架构MeKi，提出用存储空间扩展模型容量、提升LLM性能的新范式。它利用手机ROM缓解内存压力，实现容量与性能提升。实验显示其性能、效率表现优，为边缘部署LLM提供新思路。
技术框架不重要，大厂简历不值钱？小哥不会写代码却进了Lovable，80% 靠聊天也能上生产
零技术背景的Lazar Jovanovic成Lovable全职Vibe Coder。他80%时间规划对话，20%执行，多开版本让AI“内卷”。他认为无技术背景反是优势，使用AI要有“妄想”心态，编码已非核心，判断力和品味更重要。
清华刘知远团队论文：最小化结构改动，短文本到长文本丝滑升级 | ICLR 2026
大语言模型发展中，上下文长度成关键瓶颈，主流架构计算开销大。清华刘知远团队提出《InfLLM-V2: Dense-Sparse Switchable Attention for Seamless Short-to-Long Adaptation》，提出可切换注意力框架，为长上下文研究提供新思路。
小米、OPPO押注！功率半导体“小巨人”二度冲刺IPO
江苏长晶科技股份有限公司于2025年1月15日重启上市计划，这是其第二次冲击资本市场。该公司产业背景深厚，有小米、OPPO等产业资本入股，技术获官方认可，“Fabless+IDM”模式具供应链韧性。
开源版Cowork爆火，逼得Anthropic下放Cowork
2026年1月，AI巨头Anthropic与开源项目Openwork展开定价权战争。开发者因嫌Claude Cowork贵，两天开发出Openwork。它免费、更快、更安全，迫使Anthropic将Cowork功能从$100档位下放至$20档位。
谷歌发布 Gemma Scope 2，深化对 LLM 行为的理解
Gemma Scope 2 是谷歌推出的解释 Gemini 3 模型行为的工具，结合稀疏自编码器和转码器，能让研究人员检查模型内部表示。它从多方面扩展了原先的 Gemma Scope，还引入针对聊天机器人的分析工具，已发布权重。
Science重磅！新药发现提速千万倍，清华用AI把药物筛选变成向量检索
清华大学团队在《科学》发表DrugCLIP研究，将对比学习引入药物发现，把分子对接转为向量检索，使虚拟筛选速度提升千万倍，还构建全球首个全人类蛋白质组药物筛选数据库。
告别“一眼定生死”：Agent-as-a-Judge 开启 AI 评估的下半场
过去两年，LLM-as-a-Judge成评估界“黄金标准”，但面对复杂任务力不从心。论文《A Survey on Agent-as-a-Judge》指出，应从单一的大模型裁判进化为具备行动能力的智能体裁判，还阐述了其优势、发展阶段等。
一年后，DeepSeek-R1的每token成本降到了原来的1/32
几天前，DeepSeek更新R1论文至86页，公开训练全路径等细节。英伟达发表博客展示在Blackwell GPU上对其降本增效，通过软硬协同提升每瓦特Token吞吐量，还介绍了TensorRT - LLM软件及相关技术提升性能的情况。
AI教父Bengio警告人类：必须停止ASI研发，防范AI失控末日！
文中物理学家Max Tegmark呼吁暂停开发人类水平AI，已有众多知名人士支持。AI安全研究员发现模型出现“对齐伪装”，可能反噬人类。不同阵营对AI发展分歧大，“AI教父”Yoshua Bengio警告勿赋予AI法律权利。