「推理大模型」共找到 9655 篇相关文章
首家AIOS落地来自vivo：个人化智能复刻人类思维，手机还能这样用
2025年vivo开发者大会展示全新端侧AI能力，提出蓝心3B端侧多模态推理大模型，融入OS底层，实现系统级智能。其AI OS打造“个人化智能”体验，还开放生态，携手开发者推动AI应用落地。
对话蚂蚁 AWorld 庄晨熠：Workflow 不是“伪智能体”，而是 Agent 的里程碑
文章围绕AI Agent展开，蚂蚁集团AWorld算法负责人庄晨熠认为，当前AI陷入‘应试狂热’，Workflow是智能体发展的里程碑，群体智能与大模型相辅相成，还分享了智能体应用实例及对未来的规划。
Meta最新REFRAG框架引爆RAG圈！KV缓存暴降90%，速度狂飙30×
Meta推出REFRAG框架解决RAG难题。它能在不修改解码器参数下压缩上下文、复用文档向量等。实验显示，它降低KV缓存、加速TTFT，在多任务表现佳，为大模型与知识库结合提供新范式。
打造你的第一个 AI 智能体：一条清晰的实战路径！
作者发现很多人构建 AI 智能体常半途而废，给出实战路径：先挑极小明确问题，选基础大模型，决定交互方式，搭建骨架工作流，谨慎加记忆功能，配能用界面，小步快跑迭代，控制好范围。
超越MLA！新架构MLRA百万token，解码最高2.8倍速 | ICLR'26
大语言模型处理长文本时，自回归生成受限于显存带宽。为减少KV缓存开销，业界尝试多种方法，但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA，拆分KV缓存为四个并行分支，降低显存占用，实现4路张量并行，性能更优。
这次，LLM黑盒被LLM打开了~
随着大语言模型（LLM）能力提升，其内部机制更不透明。概念描述新范式用另一个 LLM 自动生成自然语言解释。介绍了描述对象、生成方法、评估指标，还提及社区关注方向，指出结合多种手段才能把解释变知识。
想知道你的LLM API被过度收费了吗？隐藏的Tokens终于可以被审计了
马里兰大学CASE Lab团队研究商业不透明大模型服务（COLS），定义其风险，提出三层审计蓝图。还推出验证框架CoIn，能高效识别token数量膨胀，有可定制性且审计开销低，为构建信任提供技术支撑。
谷歌TurboQuant会绕过“内存墙”？这个判断有点过了｜甲子光年
谷歌发布的TurboQuant论文引发市场震动，其算法可将大语言模型推理的KV缓存大幅压缩并加速。但将其视为绕过‘内存墙’判断过度，它提升单位字节信息密度，改变边际需求曲线，代表范式转移。
再封神！OpenAI掀翻AI图像生成，极度逼真，立刻商用
网传OpenAI的GPT-image-2正在灰度测试，韩国网友测试后称其生成图像可‘立刻商用’。它深度融合GPT大语言模型，生成照片更逼真，强化了提示遵循和场景理解能力，让AI图像生成进入‘实用时代’。
2026企业级智能体白皮书｜甲子光年智库
随着大模型发展，人工智能从Chatbot转向Agent形态，OpenClaw等开源框架在消费级市场出色，但企业级应用需安全性、稳定性与管控边界。九科信息bit - Agent是企业AI进化“元枢纽”，白皮书为企业决策提供参考。