「效率模式」共找到 2058 篇相关文章
时空压缩！剑桥大学提出注意力机制MTLA：推理加速5倍，显存减至1/8
在大语言模型发展中，Transformer自注意力机制有计算复杂度问题且KV缓存成推理瓶颈。剑桥大学提出MTLA，结合时空压缩策略，提升推理效率，在多任务中表现出色，代码已开源。
大模型 Token 究竟是啥：图解大模型Token
文章详细解释大模型Token概念，指出分词器会把文字切成Token，不同分词器切分结果不同。还介绍分词器的分词方法，通过统计文字出现频率打包成Token并编号，不同模型切分结果有差异。
让ChatGPT连读“A”，直接崩溃到念广告词，网友：拿付费用户做测试呢？
ChatGPT付费用户体验高级语音模式时遇怪事，正常聊寿司时突然插播广告，连读“A”也会如此。网友猜测是广告插入或“幻觉”，OpenAI技术人员称是幻觉，而国产AI无此问题。
微软开源2周狂赚7.2K star！！轻量好用命令行编辑利器，程序员力荐！
微软开源命令行文本编辑器`Edit`，专为Windows Terminal设计，支持多系统。它轻量高效，功能丰富，兼容Windows生态，还有鼠标模式。开源半月获7.2K+ star，提供多种安装方式。
告别 Selenium 痛点！全新升级版 Selenium 自动化框架，斩获10.2K标星！
Selenium 编写 Web 自动化脚本痛点多，SeleniumBase 深度封装 Selenium，内置智能等待等功能，解决诸多问题。它功能强大，安装使用简单，适用于多场景，像“智能助手”让自动化测试变简单。
腾讯混元 TurboS 技术报告首次全公开：560B 参数混合 Mamba 架构，自适应长短链融合
日前腾讯混元 TurboS 技术报告全公开。它是超大型 Hybrid Transformer - Mamba 架构 MoE 模型，有自适应长短思维链机制，总参 560B。在多榜单成绩亮眼，多语种和多任务处理能力强，还介绍了核心创新、训练策略等。
如何重现 DeepSeek 推理性能突破
DeepSeek-V3 是热门开源大模型，采用大规模 MoE 架构，优化推理性能是工程难点。阿里团队在 RTP - LLM 完成优化，对齐其推理系统性能，分享关键技术、不足与思考，还提及对 Qwen3 模型的优化策略。
Google | 发布革命性编码智能体：AlphaEvolve，突破数学极限！
DeepMind 发布由 LLMs 驱动的进化编码智能体 AlphaEvolve，能演化代码库用于算法发现和优化。它结合 LLM 创造力与自动化评估，减少幻觉，在谷歌计算生态、数学算法等多领域有巨大应用潜力。
AI逼疯七巨头，马斯克们深陷中年危机！
人工智能来势汹汹，科技巨头们陷入「AI焦虑」。谷歌搜索危机、苹果AI滞后、马斯克的特斯拉销量滑坡，巨头们面临挑战，谁会成AI时代「诺基亚」尚不明朗，新兴模型也带来新变数。
AI办公斩杀线，一页文档多少钱
腾讯混元Hy4 preview正式发布并开源，参数770B，是开源阵营里参数最大的Apache 2.0模型。它能处理长文本，官方定位有软件工程、办公分析等四个方向。还分析了处理一页文档的成本，指出办公AI下半场重在‘读懂’。