「LLM Inference」共找到 974 篇相关文章
为什么Claude Code 如此好？「以及如何在自己工作流中复刻Claude Code体验」
本文分析Claude Code好用的原因及如何复刻其体验。作者抓包分析其请求后给出要点，如可调试性优先、保持单一循环、LLM搜索优于RAG等，还阐述控制循环、提示词、工具等设计方法。
总成本降低30倍，告别昂贵后训练，在线策略蒸馏敲开大模型后训练的未来
明星公司Thinking Machines由前OpenAI首席技术官联合创立，其研究团队提出在线策略蒸馏的LLM后训练方法。该方法结合在线策略训练与蒸馏优势，解决后训练两难困境，成本降30倍，还为持续学习和个性化打开新大门。
Khosla 继 OpenAI 后的最大赌注，General Intuition 凭 38 亿个游戏高光片段做世界模型
今年10月，General Intuition完成1.34亿美元种子轮融资，由Vinod Khosla领投。它从Medal分拆，有38亿游戏短视频片段，可赋予机器“直觉和物理常识”，与LLM互补，商业化将从游戏拓展到物理世界。
重磅！DeepSeek再开源：视觉即压缩，100个token干翻7000个
DeepSeek-OCR模型探索视觉-文本压缩边界，用少量视觉token解码出10倍以上文本信息。它在OmniDocBench基准上表现超GOT-OCR2.0，为LLM长上下文问题提供方案，还能处理多类图像与近100种语言。
Harness Engineering 为什么是 Agent 时代的“控制论”？
本文是 George Zhang 对 Harness engineering 的解读。OpenAI 提出新工作方式，让 agent 编码，引发讨论。从瓦特调速器到 Kubernetes 再到如今的 harness engineering，本质都是控制论模式。LLM 或使代码库反馈回路在关键决策层闭合，但校准传感器和执行器是难题。
Stripe x Cursor，硅谷两代“金童”对谈: 未来5年IDE里将不再是代码
本文是 Cursor CEO Michael Truell 和 Stripe CEO Patrick Collison 的深度对谈，讨论了 Stripe 的技术实践、编程的未来。如 LLM 会改变 IDE，未来编程更重需求描述；还提到 Stripe 的技术选型、API 重写计划等。
OpenAI新模型gpt-oss-120b怎么样？三大场景实测首发（对比GLM-4.5-Air）
OpenAI发布新开源模型gpt-oss-120b，时隔6年再推开源权重语言模型，给LLM开源生态增添变数。作者实测它在三大场景的表现，并与GLM-4.5-Air对比，认为其距开源SOTA有距离。
马斯克终于成『AI No.1』，6大案例看实力与水分
马斯克发布Grok 4，宣称其超越OpenAI等LLM。它屠了各种榜单，但Grok系列口碑欠佳。文中通过多案例测试，展现其在各方面的表现，如编码、数学、图像等，还提到了API速度和价格。
软件的新玩法：如何 Fork 一个技能库｜AGIX PM Notes
文章围绕软件新玩法展开，指出软件正从面向人向面向机器转变，Claude Skills 代表新范式，软件或消解为面向 LLM 的 skill.md 文件。还涵盖市场总结、AI 动态及 ETF 知识等内容。
语言反思>强化学习：伯克利新架构碾压传统RL
大型语言模型下游任务优化依赖强化学习，但计算成本高。伯克利等机构论文提出GEPA新型优化器，将LLM执行轨迹转化为诊断信号，用语言反馈替代标量奖励，仅用传统方法1/35计算量，性能最高提升19%。