搜索：无预训练模型

「无预训练模型」共找到 8602 篇相关文章

ICML 2025 | 千倍长度泛化！蚂蚁新注意力机制GCA实现16M长上下文精准理解

在大语言模型发展中，长文本建模挑战大。蚂蚁研究团队提出注意力机制GCA，可端到端学习检索相关片段，实现超长序列处理与泛化，其Triton kernel实现已开源，论文被ICML 2025接收。

大语言模型为文本驱动动作生成带来新可能，但现有方法有局限。GigaAI提出Motion - R1框架，融合“思维链”机制，能分解指令、优化动作合成，虽有不足，但在测试中表现优于主流方法。

大语言模型驱动的搜索智能体有能力但效率低。南开和UIUC研究人员剖析效率瓶颈，提出SearchAgent-X框架，实现吞吐量提升、延迟降低，且不牺牲答案质量，还揭示AI智能体平衡和等待问题。

Anthropic公司CEO称AI幻觉比人类少，创业公司ColdIQ联合创始人Alex Vacca用虚构故事喂给ChatGPT、Claude和Gemini，测试它们识破谎言的能力，实验结果显示各模型表现不同，AI幻觉短期内难消失。

微软CEO萨蒂亚·纳德拉在Build 2025大会后深度访谈，回应‘SaaS已死’论，抛出‘零成本智能’和‘无代码操作系统’愿景，还阐述了AI智能体、SaaS变革等观点，强调微软全面押注AI。

本文由多机构联合完成，针对传统视觉 tokenization 方法优化与下游任务训练割裂问题，提出 ETT 调优方法。它实现联合优化，在多模态理解、生成、重构任务表现出色，虽有局限但带来新突破。

文章解读 Kimi k1.5、OpenReasonerZero、DAPO 和 Dr. GRPO 四篇论文，分析 DeepSeek R1 里 GRPO 及改进算法。指出 GRPO 非特殊 RL 算法，当前 RL 算法实现相似，变革聚焦价值函数取舍等核心维度。

6月27 - 28日AICon北京站上，一线大厂技术大牛将分享“AI赋能研发提效”经验，涉及AI编程范式革新、代码智能化落地、研发流程优化等多方面，呈现技术演进与落地路径。

微软在Build大会推出企业级AI科研平台Microsoft Discovery，结合专业AI Agent与高性能计算。它能让无编程背景人员用自然语言使用超算与模拟系统，200小时筛选36.7万种物质找新冷却剂。

本文聚焦vllm v1中管控模型分布式推理的核心Executor部分，介绍其4种类型及适用场景，以mp类型为例阐述Executor - Workers架构，还说明了大小数据在两者间的传输机制及原理。