「多角色架构」共找到 5586 篇相关文章
万字长文！大模型(LLM)推理优化技术总结（非常详细）
文章聚焦大模型推理优化技术，介绍推理过程分预填充与解码阶段，还阐述模型并行、注意力机制优化、模型优化及服务技术等，如多查询注意力减少内存，FlashAttention 优化计算顺序。
从高考到实战，豆包大模型交卷了
火山引擎原动力大会 Force 2025 发布豆包大模型 1.6 等多项新产品。豆包 1.6 性能提升，在多方面表现出色；Seedance 1.0 Pro 视频生成能力强。大会强调‘AI 云原生’，还推出多个套件和技术进展。
Google一口气发了多少东西？I/O 2026完整梳理
Google I/O 2026发布会成果丰硕。token处理量大幅增长，13款产品月活超10亿。对话式AI融入多产品，基础设施投入增至约1800亿美元。还发布新模型、平台及工具，构建从芯片到应用的Agent体系。
DeepSeek不惜代价保住它！V4关键特性被挖出来了
DeepSeek V4技术报告被深挖，为保留核心设计「batch invariance」不惜代价。该设计能保证线上推理稳定、各环节对齐，是复杂上下文系统底座，但会牺牲GPU利用率等，换来训练等多阶段可复现和稳定度。
三星研究院发布手机端侧大模型MeKi：基于Memory的LLM扩展新范式，支持旗舰手机端侧部署
三星研究院发布端侧大模型架构MeKi，提出用存储空间扩展模型容量、提升LLM性能的新范式。它利用手机ROM缓解内存压力，实现容量与性能提升。实验显示其性能、效率表现优，为边缘部署LLM提供新思路。
100万亿Token看懵硅谷！全球一半算力写代码，另一半在「搞颜色」 ？
OpenRouter和a16z联合发布报告，基于100万亿Token实证数据揭秘2025年AI发展。开源模型流量占比达30%，推理模型成主流，编程和角色扮演是主要使用场景，亚洲付费使用量翻倍，中文成全球第二大交互语言。
Atlas来了！ChatGPT嵌入浏览器，用谷歌的引擎，革谷歌的命
OpenAI推出ChatGPT Atlas浏览器，将ChatGPT嵌入浏览体验中心，具备智能体模式可自主执行操作，被视为对谷歌的宣战。此外，还有Perplexity的Comet、Opera的Neon及谷歌的Gemini版Chrome等参与竞争，但都基于Chromium架构。
小红书 AI 搜索负责人高龑确认出席 QCon 上海，分享小红书搜索的 LLM 进化之路
10月23 - 25日，QCon全球软件开发大会将在上海举办，聚焦多热门话题。小红书AI搜索负责人高龑将分享《从“搜内容”到“问AI”：小红书搜索的LLM进化之路》，介绍搜索实践及大模型应用经验。
从少样本到千样本！MachineLearningLM给大模型上下文学习装上「机器学习引擎」
新研究 MachineLearningLM 提出轻量可移植「继续预训练」框架，突破 LLM 在上下文学习局限，能学上千示例，在多领域分类任务超基准模型。它有三项核心创新，效果惊艳且应用潜力大，还指明未来研究方向。
双“雷”暴击！Trae 被曝资源黑洞、Claude背刺超级付费党，开发者们被“刀”惨了
主打“自动化执行、多模型调用、上下文记忆”的AI编程应用大热，但也出现运行卡顿等问题。Trae被曝过度消耗资源，Claude Code对付费用户增加调用限制，凸显AI产品资源问题及厂商成本管控困境。