「豆包大模型2.0」共找到 8841 篇相关文章
谷歌Transformer过时了？清华姚班校友等三连击，爆改注意力！
谷歌提出新架构，参数减少40%，训练速度较RNN提升5 - 8倍，某些任务性能超Transformer 7.2%。新架构引入注意力偏向策略，用「保留」取代「遗忘」，还提出Moneta、Yaad、Memora三个新模型，在多任务上表现卓越。
从零开始200行python代码实现LLM
文章从传统思路出发，用Python实现极简大语言模型，介绍从零基础到Bigram模型的过程，包括词汇表、模型训练推理等内容，还讲解了PyTorch基础，最后实现pytorch版Bigram模型，后续将实现完整GPT。
「熟悉的陌生人」才是「好老师」？复旦提出简单指标，找出推理蒸馏中真正有教学价值的数据
复旦大学和上海人工智能实验室研究者提出 Rank - Surprisal Ratio (RSR) 度量方法，综合考虑样本信息量与对齐程度，在蒸馏实验中与学生模型后训练性能相关性高，可用于筛选推理轨迹和选择教师模型。
Claude Sonnet 4.5来了！能连续编程30多小时、1.1万行代码
十一假期前，DeepSeek 开源新模型 V3.2 - Exp，深夜 Anthropic 发布 Claude Sonnet 4.5，自称世界最好编码模型，自主编码时长超 30 小时，还带来系列产品升级，在多方面表现优异。
陶哲轩都惊了！o3首战「AI奥数」碾压夺冠，开源军团仅差5分狂追OpenAI
AI界奥数杯重启，OpenAI o3首参赛，算力拉满时以47分夺冠。测评显示在奥数数学推理上，商用和开源AI差距缩小，开源即将追上商用模型。报告完整测试结果已放出。
国产开源LLM迎来大爆发的一周：Kimi、腾讯、快手、美团、面壁智能
国产开源大模型迎来爆发，快手、月之暗面、美团、面壁智能、腾讯等接连发布新模型，如快手Keye-VL - 1.5 - 8B刷新视频理解SOTA，美团LongCat - Flash - Chat推理快成本低等。
推理正确率下降65.5%！斯坦福、MIT等用「不等式」拷问AI逻辑极限
大语言模型在数学证明常现推理漏洞，斯坦福等高校团队提出IneqMath基准评估其严谨性。用不等式证明题切入，拆解为子任务，构建评测体系，用LLM - as - Judge审查。结果显示模型推理正确率低，存在结构性缺陷。
追剧不断网，可能背后有个AI在加班，故障诊断准度破91.79%
中兴通讯和中国移动团队针对电信网络故障诊断难题，提出 TN - RCA530 基准和 Auto - RCA 框架。测试多个大模型，初始准确率低，经框架优化后，Gemini - 2.5 - Pro 准确率从 58.99% 升至 91.79%，超人工水平。
几分钟扫完细菌全基因组，MIT团队用AI找出大量未知的抗病毒防御系统
MIT科学家开发AI模型DefensePredictor，能从细菌基因组快速找防御系统。用约1.7万个细菌基因组训练，借助ESM2蛋白语言模型，几分钟扫描完一个细菌全基因组，还开源供科学界使用，潜力巨大。
小扎又开源了：7B实现自监督学习SOTA
Meta发布全新开源视觉模型DINOv3，首次证明自监督学习模型能在广泛任务中超越弱监督学习模型。它用无标注方法，扩展数据和模型规模，支持标注稀缺场景，在多任务实现SOTA。