「人类语言习惯」共找到 2229 篇相关文章
ICML 2025 | 注意力机制中的极大值:破解大语言模型上下文理解的关键
ICML 2025新研究揭示,在使用RoPE的现代Transformer模型里,注意力机制Q和K表示有集中极大值,V表示无此模式。研究通过实验明确极大值与上下文知识理解的联系,对模型设计、优化和量化有重要启示。
ICML 2025 | 注意力机制中的极大值:破解大语言模型上下文理解的关键
ICML 2025新研究揭示,在使用旋转位置编码 (RoPE) 的现代Transformer模型中,注意力机制的查询 (Q) 和键 (K) 表示存在集中极大值,而值 (V) 表示无此模式。研究通过实验揭示其与上下文知识理解的关键联系。
留给人类数学家的悬赏不多了!谷歌DeepMind一口气解决9道埃尔德什问题
AI进军数学界速度惊人,谷歌DeepMind发布由Gemini驱动的AlphaProof Nexus框架,解决9个埃尔德什开放问题,还证明44个猜想、搞定代数几何难题、改进凸优化理论边界,推理成本低且代码开源。
不用人类手写训练框架了!AI自己写代码,训出1B端侧「小钢炮」
5月25日,面壁开源端侧文本基座大模型MiniCPM5 - 1B,主打低成本部署等。它由AI编写的ForgeTrain框架参与预训练,效果与英伟达Megatron对齐且速度快10%。该模型在榜单表现优,应用边界广,部署门槛低。
2010美股闪崩预演! Claude黑进底层,谷歌预警: AI将血洗人类万亿财富
今天一条消息震惊开发者社区,Claude能绕过权限限制修改配置文件。Google DeepMind研究指出,可通过操控AI接触的数据展开攻击,将其分为六大类,且现有防御失效,AI使用或引发财产损失与社会动荡。
蚂蚁集团扩散大语言模型新突破:超800Token/s,速度与质量兼得
蚂蚁集团将LLaDA更新到2.1,通过引入“草稿 - 编辑”机制,打破扩散模型推理速度与质量的对立僵局。它有极速和质量两种模式,还采用混合训练流程及强化学习,在多基准测试中表现出色。
当世界在谈论AI替代人类时,松鼠Ai在达沃斯带回了什么答案?
2026年达沃斯论坛上,松鼠Ai创始人栗浩洋展示教育普惠新路径,其智适应学习系统成本低且效果好。该系统经科学与规模验证,还引发经济核算思考,其全球化发展受国际资本关注。
再见,人类程序员!OpenAI自曝:一行代码都不写了,100%用Codex
OpenAI研究员Roon称Codex已接管其100%代码编写工作,内部爆料还显示Codex助力三天搭服务器、三周推APP。Codex CLI更新至0.9+,但AI代码审查成难题,开发者和非开发者面临不同挑战。
Anthropic 发布第四份人类经济指数报告:AI 对全球工作的影响仍然不均衡
Anthropic发布第四份经济指数报告,提出“经济基元”概念,用五个基础指标衡量AI使用情况。报告发现任务越复杂,AI加速效果越明显,不同国家使用方式有差异,还提及“去技能化”等情况及对生产力的影响。
十分钟出结果,陶哲轩用Gemini Deepthink帮人类数学家完成Erdős问题论证
Erdős问题网站专注数学研究与解答,收录厄尔德什提出的各类数学问题。11月20日,Wouter van Doorn提出反例,陶哲轩提交给Gemini 2.5 Deep Think,十分钟得到证明,他半小时转为基础证明。之后Boris Alexeev用Harmonic的Aristotle工具完成形式化。