「token级协作」共找到 1989 篇相关文章
DPad: 扩散大语言模型的中庸之道，杜克大学陈怡然团队免训推理加速61倍
扩散大语言模型（dLLMs）有全局规划能力，但存在计算冗余。杜克大学陈怡然团队揭示其“草稿纸机制”，提出免训练方法DPad，结合现有技术，能在几乎无损精度下实现高达61.4倍推理加速。
扎克伯格的豪赌初见成效？Meta新方法让LLM长上下文处理提速30倍
Meta Superintelligence Labs提出REFRAG高效解码框架，解决LLM长上下文输入效率瓶颈。它通过四步流程优化解码，让首个token生成时间加速达30.8倍，扩展上下文，且精度不降反升，不过价值待实际检验。
斩获5.5K star！！AI 加持到位，安全感拉满，这个升级版开源知识库神器太顶了！
两个月前分享的开源AI知识库项目PandaWiki，迭代速度惊人。此次更新多个大版本，编辑器体验提升，AI成智能客服，支持20+家模型供应商，还优化团队协作功能和诸多细节，更成熟实用。
EMNLP 2025 浙大&蚂蚁 | 提出动态压缩CoT推理新方法：LightThinker
随着AI发展，大语言模型处理复杂推理任务能力提升，但推理时产生大量中间步骤和文本，拖慢计算速度、增加资源压力。浙大、蚂蚁等机构研究者提出LightThinker，可动态压缩推理步骤，降低内存占用和计算成本。
刚刚更新，全球AI百强：中国五款产品进前20，ChatGPT背腹受敌，氛围编程成黑马
风投巨头 Andreessen Horowitz 发布第五版《全球前 100 大 Gen AI 消费级应用》。OpenAI 的 ChatGPT 仍居榜首，但谷歌 Gemini 等紧追。中国多款 AI 应用跻身前列且走向全球，氛围编程赛道也展现出增长潜力。
抢天才还是拼算力？前 Llama 推理负责人详解 AI 的真实天花板
前 Llama 推理负责人 Ross Taylor 在播客访谈中指出，AI 竞赛中的混乱和挖角是噪声，最终会被指数级算力淹没。他阐释了算力指数曲线决定竞赛天花板，强调系统性实验、高质量评估的重要性。
ACL 2025杰出论文！用能力显著向量让大模型下游任务性能预测更精准
上海人工智能实验室与复旦大学联合研究成果《Capability Salience Vector》获ACL 2025杰出论文奖。提出能力显著向量（CSV）解决验证损失与下游任务能力脱节问题，实验验证其提升了下游任务表现可预测性。
实测Perplexity Pro平替模型，免费开源仅4B
一款仅4B大小的开源模型Jan-v1，声称能平替Perplexity Pro，且完全免费、支持本地部署。实测发现，它在检索增强生成、上下文深度分析等能力上表现不错，入门级显卡即可带动本地部署。
微软发布5大AI Agent模式：一键解锁AI员工，打造智能体工厂
今天凌晨微软官网发布5种常用Agent模式助用户开发自动化AI员工。智能体比传统自动化工具更具优势，能推理协作等。各模式都有应用案例，且Azure AI Foundry支持多Agent模式开发。
商汤林达华万字长文回答AGI：4层破壁，3大挑战
在WAIC 2025上，商汤发布国内首个实现“图文交错思维”的商业级大模型日日新6.5。商汤科技联合创始人林达华发文，剖析多模态通用智能实践，解答AI领域关键问题，提供通往AGI的参考。