异常梯度定位」共找到 385 篇相关文章

开源动态8

微软、哈佛开源创新优化器:全面超越Muon,提升大模型训练效率

随着大模型训练所需计算资源爆炸式增长,微软和哈佛团队联合开源优化器Dion。它利用低秩近似和解耦动量缓冲区,避免分布式训练同步完整梯度,在集中式和分布式场景都有高效表现,性能超Muon。

AIGC开放社区
产品应用7

Agent效率X10,ClaudeCode/Codex 专属的文件管理Agent:Agentfile

Claude Code创始人用多Claude并行开发,作者受启发做了Agentfile。它能将项目文件夹变为标签页,便于切换,从Wave改进而来,轻量且适合承接HTML结果,是Skill驱动的Agent,定位为多Agent工作流收口台。

AI产品自由
产品应用8

对话贝陪科技:好的 AI 陪伴产品,应该让 AI 少说话

贝陪科技创始人黄缨宁分享打造儿童AI陪伴产品「可豆陪陪」的经验。产品让AI少说话,激发孩子表达欲,上线150天后留存率达51%。黄缨宁认为AI陪伴要营造成长环境,还介绍产品定位、使用场景、设计思路等。

Founder Park
算法论文8

ICML 2025 | 无需训练,即时对齐大模型偏好

上海人工智能实验室提出TPO方案,可让大模型在推理时快速对齐人类偏好,无需更新模型权重。TPO类似文本形式的梯度下降,在多个基准数据集评测中表现出色,还提供“宽深结合”推理拓展策略。

深度学习自然语言处理
算法论文8

除了prompting外,不动参数,如何改变模型行为?

文章指出传统提示工程控制大模型生成行为有缺陷,提出Steering Target Atoms (STA)方法。它用稀疏自编码器分解LLM高维表示,定位“原子知识组件”精准控行为,实验效果超现有技术,还能控制推理长度。

深度学习自然语言处理
新闻资讯7

通用型产品增长停滞,垂直赛道成市场新解法丨季度AI 100数据解读

新一季度「AI 100」双榜单出炉,量子位智库分析1000+款AI产品。Web端总访问量和MAU增长停滞,头部下滑;APP端中腰部产品表现佳。Agent产品用户增长亮眼,未来桌面端和Web端定位将区分。

量子位
新闻资讯8

OpenAI重回巅峰:GPT‑5.5全球SOTA,碾压Opus 4.7

OpenAI发布GPT - 5.5,定位为‘为真实工作而生的新一代智能’。它在编码、科研、办公等多领域表现出色,能力重心转向‘自主完成任务’,在多项评估中成绩优异,还能加速生物医学研究,且Token效率大幅提升。

AIGC开放社区
新闻资讯7

谷歌Deep Think八语奥赛屠榜!自主攻克4大未解难题,科研壁垒崩塌

谷歌Deep Think横扫亚欧多语种竞赛,成绩亮眼。虽评测数据来自内部,未公开细节且是区域赛,但它定位为‘人类智力倍增器’,其驱动的Aletheia已产出论文,解决4个未解问题,在多领域展现潜力。

新智元
推荐文章7

这个时代最缺的是「个人上下文」丨对话flomo浮墨笔记

量子位智库对话flomo浮墨笔记联合创始人刘少楠,探讨AI笔记产品发展。刘少楠分享了flomo定位、目标人群、降低门槛方法等,提及AI带来的认知变化,还谈了产品指标、功能考量、成本平衡等问题。

量子位
开源动态8

AI能否独立开展科研?ASI-Bench为科学自主性建立评测标尺

ASI-Bench是衡量AI系统科学自主性的基准测试,由多机构联合开发。它能测试AI通用智能、创新性和执行力,通过信息梯度设计,让模型在不同指导量下完成科研任务,结果显示当前AI离自主科研有明显距离。

机器之心