「长上下文」共找到 1170 篇相关文章
DeepSeek的GRPO会导致模型崩溃？看下Qwen3新范式GSPO
文章围绕大语言模型后训练阶段的强化学习算法展开。介绍了OpenAI的RLHF、DeepSeek的GRPO，重点指出Qwen团队发现GRPO有稳定性问题，会致模型崩溃，进而提出新算法GSPO，实验显示其效率和可扩展性更佳。
Google重磅上线通用世界模型Genie 3 - 此即未来。
Google发布世界模型Genie 3，它与Sora等AI视频产品本质不同，像可实时演算的模拟器。Genie 3解决了前辈无法调和的矛盾，在交互、时长、控制等方面有突破，虽有局限，但打开新世界大门。
OpenAI 开源模型泄露：六大技术细节
OpenAI 可能发布的开源大模型细节泄露，包含两款模型，1200 亿参数 MoE 模型和 200 亿参数稠密模型，专注文本处理。还涉及训练技术、激活函数、上下文窗口、注意力机制及底层架构等方面的技术细节。
GLM4.5实测：审美不如R1，全栈还不大可用，别急冲
7月29日智谱开源GLM - 4.5。作者实测发现其在UI设计审美不如R1，生成卡片表现不一，Coding能力勉强及格，全栈代码生成未达可用阈值，存在无多模态能力、上下文窗口短等问题，目前还别急着冲。
微软为3万名政务人员提供Copilot AI
CNBC消息，旧金山市长宣布为3万政府人员提供微软Copilot AI，用于行政工作提效。经六个月试点，该AI为人员每周提效5小时，还能处理多语言翻译等事务，使旧金山成全球应用AI最多城市之一。
用动作分块突破RL极限，伯克利引入模仿学习，超越离线/在线SOTA
如今强化学习在多领域成果显著，但在长跨度、稀疏奖励任务中表现欠佳。加州大学伯克利分校研究者提出Q - chunking方法，将动作分块引入基于时序差分的强化学习，解决探索效率和值传播问题，实验表现优异。
程序员的提示工程实战手册
文章围绕程序员如何利用提示工程让AI编程助手成为可靠开发伙伴展开。介绍给AI代码助手的提示词技巧、高效代码提示原则，还阐述调试、重构、实现新功能的提示模式，指出常见反模式及应对方法。
“AGI 五年内或将实现”：AI 教父 Bengio 呼吁中美达成共识，警惕 AI 沦为人类武器
AI 教父 Yoshua Bengio 在 2025 北京智源大会表示，AI 完成任务时长每七个月减半，约五年后或达人类水平，AGI 或将到来。他呼吁中美达成共识，警惕 AI 沦为武器，还提出构建“Scientist AI”等观点。
Transformer | 一文带你了解Embedding（从传统嵌入方法到大模型Embedding）
文章介绍Embedding基础知识，从传统统计方法到如今大模型用例演变过程。涵盖传统、静态、上下文及大模型Embedding技术，如TF - IDF、word2vec、BERT等，还剖析DS - Qwen1.5B的Embedding并以图展示。
十四年的「管家」局，科沃斯这回把应用定义权交了出来
2026年世界机器人大会上，科沃斯董事长钱东奇提出「未来应用，由用户定义」。回顾过去，从2012年推「亲宝」到2026年发布「八界」，其发展有迹可循。当前，科沃斯推出创新方案和开源生态欲破具身智能难题。