「推理优化技术」共找到 5272 篇相关文章
回归C++: 在GGUF上构建高效的向量模型
Jina AI分享将纯解码器向量模型适配到GGUF格式及在llama.cpp工具链的优化经验。经处理得到特定任务v4模型，还生成量化版本并上传。介绍使用方法、注意事项，经测试推荐IQ3_S或IQ3_M版配合定制工具。
氛围感编程，说干就干用AI手搓一个微信带货小程序
非技术岗位的市场人尝试搭建AI荐香微信小程序。从想法萌芽到开发上线，介绍了用微信小店功能、AI编程工具实现的过程，还分享大模型接入、连接小店等技术难点及UI优化、上架要点，展示了AI编程潜力。
CMU&斯坦福提出Reasoning新范式！自己找“窍门”，教会LLM抽象Reasoning
大型语言模型解决复杂推理问题时效率低，论文提出创新方法，让模型利用“推理抽象”，通过RLAD两玩家强化学习框架训练，在多基准测试提升性能，还分析了其作用、局限与未来方向。
整体工程：有机解决复杂演进系统中的问题
软件开发中项目延期、架构偏离等问题，常由非技术力量导致。整体工程将这些力量纳入技术决策，能解决复杂演进系统问题，还介绍了实践方法及好处。
ICML 2026 | 只用少量Thinking Tokens，大模型依然能深度思考
近年来，CoT 推理成为提升大模型复杂问题求解能力的重要路径，但带来效率问题。浙江大学等团队提出 Heima 框架，将冗长 CoT 压缩为少量 thinking tokens，在减少 token 数的同时保留推理能力，已被 ICML 2026 接收。
重磅发现！大模型的「aha moment」不是装腔作势，内部信息量暴增数倍！
中国人民大学等联合团队研究发现，大模型推理有“信息脉冲”，特定步骤互信息值飙升形成“互信息峰值”，对应“思考词汇”。基于此提出无需额外训练提升推理性能的方法，代码已开源。
三位哈佛辍学生，如何将专用芯片变成估值百亿美元的 AI 算力公司
文章聚焦 Etched 公司，分析推理成 AI 算力主战场背景，介绍三位哈佛辍学生创始人故事，阐述其从芯片到推理集群的产品打造，还提及团队、文化、资本情况，最后分析竞争格局与前景。
HBM更“热”了
HBM正从高性能计算领域向消费电子等市场渗透，技术迭代迅速。TSV等关键技术推动其性能提升，各企业技术路线有差异。应用领域广泛，但推广面临挑战。市场竞争激烈，各企业积极布局。
「AI重大飞跃」OpenAI官宣：内部实验模型在IMO 2025中取得金牌，GPT-5即将发布
OpenAI研究员Alexander Wei宣布团队开发的内部推理模型在IMO 2025中获相当于人类金牌成绩，还透露GPT - 5即将发布。模型按人类规则评估，解决5个问题，代表AI通用推理能力飞跃，成果不局限于数学推理。
科幻！谷歌放出Gemini Robotics-ER 1.5：机器人有了真正的思考力
谷歌推出首个广泛开放给开发者的机器人具身推理模型Gemini Robotics - ER 1.5，可作为机器人高级推理大脑。它能解决物理问题，有新能力如快速空间推理等，还能让开发者平衡延迟与准确性。