「阿里云栖大会」共找到 5401 篇相关文章
万字长文！大模型LLM推理优化技术总结
文章围绕大模型LLM推理优化技术展开，先介绍LLM推理各阶段、批处理、KV缓存等概念及内存需求，再阐述模型并行、注意力机制优化、模型优化和模型服务等技术，如Pipeline并行、MQA、量化、动态批处理等。
Prompt、Skills、MCP：大模型上下文工程核心链路
文章聚焦大模型上下文工程，介绍了Prompt、Skills、MCP核心链路。Prompt是与模型沟通基础，但其有脆弱、难管等痛点，促使向上下文工程演进；Skills是能力单元，可显式化能力、动态组合；MCP解决能力集成问题，虽有争议但理念重要。
中科院类脑大模型SpikingBrain，2%数据，百倍速度
中国科学院自动化研究所李国齐、徐波团队发布全球首款大规模类脑脉冲大模型SpikingBrain 1.0。它处理长文本比主流Transformer模型快超百倍，训练数据仅为2%。该模型采用新架构，降低计算复杂度，还可转换现有模型，且在国产GPU完成训练。
阿里：RL强化LLM推理，是技巧还是陷阱？
近年来，强化学习（RL）成为解锁大型语言模型（LLM）复杂推理能力的关键工具，但该领域也面临技术选择困境。阿里联合多所高校的论文通过大规模可复现实验，揭示主流RL技巧的机制与适用场景，还发现极简组合（Lite PPO）性能超越复杂方案。
给还在大厂工作的朋友 21 条忠告
Addy Osmani分享《在谷歌14年得到的21条教训》，涵盖工程师工作多方面，如解决用户问题、达成共识、偏向行动、清晰表达等，对大厂工作者有指导意义。
超越英伟达B200！AMD最强AI芯：1.6倍大内存、大模型推理快30%，奥特曼都来站台
AMD发布最强AI芯片MI350X和MI355X，号称大模型推理比英伟达B200快30%，内存是其1.6倍。该系列本月初已批量出货，还发布ROCm 7软件栈。AMD还预告明年推MI400系列，由其与OpenAI联合研发。
松下发布多模态大模型，文本、图像、音频随意切换
多模态数据处理成热点，但现有模型处理复杂任务有挑战。松下开发多模态大模型OmniFlow，采用模块化设计、多模态引导机制，实验显示其在多任务中有卓越表现。
亚马逊发布新AI大模型，部署机器人突破100万
全球电商、云计算巨头亚马逊宣布推出新AI基础大模型Deep Fleet，部署机器人超100万。该模型可提升机器人车队出行效率，还能协调机器人移动，带来交付快、成本低等好处。
阿里，悄咪咪在海外上线全新 Agent Coding 产品
阿里在海外推出 Agent Coding 产品 Qoder，个人版免费试用。随着 LLM 技术发展，AI 辅助编码范式改变。Qoder 探索发挥 AI 潜力、解决开发挑战，有透明化等功能及增强上下文工程理念，还能自动选模型。
Show me《指环王》！卡帕西强推大模型评测新基准
大神卡帕西宣称Anthropic用《指环王》给大模型评测上强度，这一‘指环王基准’正接替‘鹈鹕骑自行车’SVG测试。虽Opus 5生成的画面粗糙，但网友测试展现出丰富创意，不过新测试也引发争议。