「Kimi Delta Attention」共找到 233 篇相关文章
AI Infra入门干货总结：大模型是如何高效推理的
作者深入研读vLLM源码，以Llama 3为例，聚焦Decoder-Only架构LLM，介绍推理各环节及张量维度变化，讲解连续批处理和Paged Attention概念，还阐述推理流程、采样策略等，最后总结相关拓展内容。
DeepSeek新模型意外曝光：AI Agent才是未来~
据彭博社消息，中国AI新星DeepSeek计划年底发布对标OpenAI的AI Agent，能自主执行多步任务、自我学习进化。国内Kimi、Qwen也有相关动作，还分享了72多种高效AI工具。
美团又上新模型，8个Thinker齐开工，能顶个诸葛亮？
临近春节，美团 1 月 15 日更新 LongCat - Flash - Thinking - 2601 模型。它有 5600 亿参数，引入重思考模式，智能体能力提升。实测表现佳，适合特定场景，其技术改进独特，还将推出 ZigZag Attention。
我的AI OS搭建思路
作者黄益贺分享AI OS搭建思路。其系统以Claude Code为框架、Kimi K2 Thinking为模型，通过Skill和自定义命令满足工作需求，设计三层文件夹体系处理信息，供大家参考搭建。
SGLang 确定性推理实现技术细节笔记
文章围绕SGLang确定性推理展开，介绍其启用方式，详述批次不变性原理与Batch Invariant Ops实现，如Matmul Persistent Kernel设计；还阐述确定性采样、Attention Backend配置、AllReduce改动等，给出环境变量及测试脚本，有完整解决方案。
性能比肩DeepSeek-R1，MiniMax仅花380万训出推理大模型性价比新王｜开源
MiniMax开源推理大模型MiniMax - M1，原生支持100万token输入、8万输出，性能比肩DeepSeek - R1，仅花380万训成。采用Lightning Attention机制与CISPO算法，在多领域表现出色，模型权重可在HuggingFace下载。
比Transformer更强的架构来了？浙大新作Translution，一统卷积和自注意力
随着大模型发展遇瓶颈，浙大等校学者提出神经网络基础操作Translution，实现自注意力与卷积的融合统一，构建更普适神经计算机制。它性能超Self - attention，为新一代神经网络发展开辟新方向。
一年前让英伟达蒸发6000亿，一年后被老黄搬上PPT
北京时间1月6日，黄仁勋在CES 2026上展示Kimi K2、DeepSeek V3.2、Qwen等中国模型。此前英伟达因谷歌、Meta等对手的冲击市值蒸发。老黄花200亿美元挖人，用中国开源模型反击，构建开放生态。
Paddle OCR走到了尽头，Unlimited OCR一次读40 页
百度开源的Unlimited OCR把解码器里全部attention层换成R - SWA，模型只记128个token，能一次性读完40页文档。相比DeepSeek OCR，它在精度、速度上表现更优，训练成本低，适用范围广。
用Claude Code搭建工作流
作者原本考虑用n8n搭建工作流，现认为Claude Code的Sub - agents和自定义命令功能搭配MCP工具可满足需求。通过示例演示其工作流搭建，还测试换Kimi K2模型，显示其质量更好。