「小模型推理」共找到 8515 篇相关文章
从被吐槽“套壳中国大模型”到自研封神！首次揭秘Cursor背后极速代码Agent如何对标GPT5.1 Codex，生成效率提4倍
10月29日，Cursor 2.0发布Composer大模型，效率约为其他模型四倍。开发者分享其成极速代码Agent方法，如强化学习、平衡训练与推理负载等，还提及未来方向及研发反思。
小美Agent：当龙猫遇到美团外卖的灾难现场
作者体验美团AI助手“小美”后吐槽不断。美团称其用有5600亿参数的龙猫大模型，能力接近GPT - 4o，但它理解需求差、操作订单无效、定位混乱。美团做AI是为跟风，未解决用户真需求，是资源浪费。
字节跳动开源视频生成模型Alive：12B参数，个人电脑也能跑
字节跳动开源视频生成模型Alive，12B参数，支持四种模式，硬件门槛低。在评测中表现出色，技术架构精心设计，解决音视频同步等问题，虽有小瑕疵，但更适合普通玩家。
4o-mini华人领队也离职了，这次不怪小扎
OpenAI的Kevin Lu离职，下一站是估值120亿美元的Thinking Machine Lab。他毕业于UC伯克利，在OpenAI领导完成4o - mini，擅长小模型和强化学习。他认为应关注互联网数据，停止强化学习研究转做产品开发。
GTC 巅峰对话 Jeff Dean x Bill Dally：预训练范式已死、延迟瓶颈不在计算、谈透 AI 五年未来 | GTC 2026
GTC 2026上，NVIDIA首席科学家Bill Dally和Google Jeff Dean展开重磅对话。讨论了模型能力进步、低延迟推理架构、模型自主进化、数据与算力、训练与推理硬件差别等多方面内容，分享对未来AI的看法与见解。
拆解大模型几项核心操作背后的数学与 Infra 优化逻辑
文章拆解大模型核心操作（RMSNorm、Softmax、Causal Mask、Sampling）背后的数学与Infra优化逻辑。指出Infra优化是用数学等价变换或精度妥协换硬件利用率和推理速度，还介绍各操作原理、问题及优化方法。
OpenAI推理第一人离职，7年打造了o3/o1/GPT-4/Codex
刚开年，OpenAI推理模型第一人Jerry Tworek离职，他在OpenAI近七年，是构建o3、o1、GPT - 4等的关键人物。他称离职是去探索在OpenAI难以开展的研究，网友有感谢赞叹也有因人才流失而沮丧。
AI模型守法率提升11%，港科大首次用法案构建安全benchmark
香港科技大学KnowComp实验室从法律合规视角研究LLM安全，提出「安全合规」新范式。基于法律条文构建benchmark，用GRPO微调Qwen3 - 8B得推理模型，在新benchmark测试中性能提升显著。
FLUX.2开源了，但是我好像也看到了小公司的无力。
AI绘图曾经的王者FLUX.2部分模型开源，包括dev和即将开源的klein。但与Nano Banana Pro对比，其生图、改图及世界知识表现欠佳。这凸显小厂在大厂资源碾压下的无力，但开源仍有价值。
扒一扒Meta全新大模型Muse Spark里藏着的PDR技术
Meta发布闭源大模型Muse Spark及‘沉思模式’，背后藏PDR推理技术。该技术通过‘并行起草+精炼’突破性能瓶颈，对比传统长CoT范式优势明显，在AIME竞赛题目测试中准确率显著提升。