「结构化语言」共找到 2155 篇相关文章
ICML 2025 | 注意力机制中的极大值：破解大语言模型上下文理解的关键
ICML 2025新研究揭示，在使用RoPE的现代Transformer模型里，注意力机制Q和K表示有集中极大值，V表示无此模式。研究通过实验明确极大值与上下文知识理解的联系，对模型设计、优化和量化有重要启示。
ICML 2025 | 注意力机制中的极大值：破解大语言模型上下文理解的关键
ICML 2025新研究揭示，在使用旋转位置编码 (RoPE) 的现代Transformer模型中，注意力机制的查询 (Q) 和键 (K) 表示存在集中极大值，而值 (V) 表示无此模式。研究通过实验揭示其与上下文知识理解的关键联系。
蚂蚁集团扩散大语言模型新突破：超800Token/s，速度与质量兼得
蚂蚁集团将LLaDA更新到2.1，通过引入“草稿 - 编辑”机制，打破扩散模型推理速度与质量的对立僵局。它有极速和质量两种模式，还采用混合训练流程及强化学习，在多基准测试中表现出色。
NTU S-Lab 团队探索可动 3D 新方向：结构、关节、纹理一次到位
南洋理工大学 S-Lab 团队发布研究，提出统一建模框架，能从单张图像生成可动三维对象，在几何精度、外观一致性与运动合理性上显著提升，解决了现有方法的难题，为相关领域发展奠定基础。
Karpathy 评 DeepSeek-OCR：分词器必须消失！马斯克：光子才是 AI 的终极语言
Andrej Karpathy 发长文讨论 DeepSeek - OCR 论文，提出图像输入比文本更高效，还表达对分词器的厌恶，认为其必须消失。马斯克称 AI 主要交互将是视觉。开发者分享实践经验，也有人提出质疑。
LLM 商业化猜想：OpenAI 会走向 Google 的商业化之路吗？｜AGIX PM Notes
文章探讨了大模型商业化难题，对比 OpenAI 潜在变现方案与 Google 商业模式，分析 OpenAI 开启类似 Google 商业化引擎的可能性，还给出 AI 搜索引擎可能的变现思路，并总结了本周市场情况及 AI 公司动态。
Listen Labs：把用户研究“黑灯流水线”化，AI Agent 系统实现小时级洞察
Listen Labs由两位哈佛校友在2024年底创立，2025年4月获2700万美元融资。今年2 - 5月发布三项核心能力，可实现全流程自动化深访。文章详解其如何实现小时级交付，分析竞争态势与优势，也指出未来待改进处。
8.6K star！！实时翻译、离线使用、支持50+语言，这个免费开源项目牛皮！
介绍开源项目RTranslator，它为Android平台实时翻译应用，用Meta的NLLB模型与OpenAI Whisper技术，本地处理保障质量与隐私。有双模式对话等功能，在Github获8.6K star。
CVPR2025｜MCA-Ctrl：多方协同注意力控制助力AIGC时代图像精准定制化
中国科学院计算技术研究所团队提出无需微调的通用图像定制方法 MCA - Ctrl，利用扩散模型内部知识，结合条件语义与主体内容。实验显示其在编辑和生成任务表现优，解决了现有技术瓶颈。
DoorDash 如何打造了一款不完全依赖大型语言模型（LLM）的 AI 购物助手
DoorDash 分享对话式 AI 助手 Ask DoorDash 的架构，它借助 LLM、AI 代理等构建系统。测试显示其提升了结账转化率等指标，还构建自动评估框架改进质量衡量，架构分离协调与业务功能。