「推理优化与部署」共找到 3516 篇相关文章
Unsloth让大模型跑在手机上！
Unsloth放出教程，可将其微调模型部署到Pixel 8和iPhone 15 Pro。用ExecuTorch技术优化，Qwen2 - 0.5B在旗舰机上表现流畅。教程介绍量化感知训练控制精度损失，还给出iOS和Android部署步骤及注意事项。
回归C++: 在GGUF上构建高效的向量模型
Jina AI分享将纯解码器向量模型适配到GGUF格式及在llama.cpp工具链的优化经验。经处理得到特定任务v4模型，还生成量化版本并上传。介绍使用方法、注意事项，经测试推荐IQ3_S或IQ3_M版配合定制工具。
CMU&斯坦福提出Reasoning新范式！自己找“窍门”，教会LLM抽象Reasoning
大型语言模型解决复杂推理问题时效率低，论文提出创新方法，让模型利用“推理抽象”，通过RLAD两玩家强化学习框架训练，在多基准测试提升性能，还分析了其作用、局限与未来方向。
OpenAI 狂砸40亿美刀下场抢FDE，软件工程师的尽头原来是驻场啊
当地时间5月11日，OpenAI宣布成立OpenAI部署公司，初始投资超40亿美元，收购Tomoro引入现场部署工程师。这是战略转向，因企业更看重AI落地能力。如今AI竞争转向应用落地，部署工程师成香饽饽。
ICML 2026 | 只用少量Thinking Tokens，大模型依然能深度思考
近年来，CoT 推理成为提升大模型复杂问题求解能力的重要路径，但带来效率问题。浙江大学等团队提出 Heima 框架，将冗长 CoT 压缩为少量 thinking tokens，在减少 token 数的同时保留推理能力，已被 ICML 2026 接收。
重磅发现！大模型的「aha moment」不是装腔作势，内部信息量暴增数倍！
中国人民大学等联合团队研究发现，大模型推理有“信息脉冲”，特定步骤互信息值飙升形成“互信息峰值”，对应“思考词汇”。基于此提出无需额外训练提升推理性能的方法，代码已开源。
三位哈佛辍学生，如何将专用芯片变成估值百亿美元的 AI 算力公司
文章聚焦 Etched 公司，分析推理成 AI 算力主战场背景，介绍三位哈佛辍学生创始人故事，阐述其从芯片到推理集群的产品打造，还提及团队、文化、资本情况，最后分析竞争格局与前景。
「AI重大飞跃」OpenAI官宣：内部实验模型在IMO 2025中取得金牌，GPT-5即将发布
OpenAI研究员Alexander Wei宣布团队开发的内部推理模型在IMO 2025中获相当于人类金牌成绩，还透露GPT - 5即将发布。模型按人类规则评估，解决5个问题，代表AI通用推理能力飞跃，成果不局限于数学推理。
科幻！谷歌放出Gemini Robotics-ER 1.5：机器人有了真正的思考力
谷歌推出首个广泛开放给开发者的机器人具身推理模型Gemini Robotics - ER 1.5，可作为机器人高级推理大脑。它能解决物理问题，有新能力如快速空间推理等，还能让开发者平衡延迟与准确性。
思维链可无限延伸了，MIT等打破大模型上下文天花板
MIT等机构提出新架构Thread Inference Model（TIM），配合专用推理引擎TIMRUN，把推理过程变为树状递归子任务结构并修剪子任务，让模型突破输出窗口限制实现长程推理，实验验证了其性能。