搜索：推理算法优化

「推理算法优化」共找到 3352 篇相关文章

200行python代码实现从Bigram模型到LLM

本文从`babygpt_v1.py`出发，逐步加入self-attention机制、position嵌入等，实现完整GPT。介绍Transformer结构，讲解位置编码、单头自注意力等机制的代码实现，还阐述后续层的用途、参数调整及训练效果，最后提及模型优化方向。

OpenAI推出GPT - 5.4 mini和nano模型，主打快速经济，针对编程等优化。但评测中GPT - 5.4 mini排名不佳，不如国产Kimi 2.5，且价格对比有争议。不过与自家旧版比有提升，网友测试有亮点。

第四届琶洲算法大赛中，国星宇航与佳都科技联手推动「慧行·AI上星」实验，标志国星宇航成全球首个提供常态化星座级太空算力商业服务公司，验证太空算力承载行业应用可行性。

在云栖大会上，阿里云无影宣布Agent基础设施AgentBay重大升级，展示全新个人计算产品。它有完善能力，可调用云上资源。文章还阐述了Agent Infra的必要性、进化体现及成本优势，指出优化环境很重要。

马克斯·普朗克软件系统研究所论文揭露，同样文本可被切分成不同数量token，用户难以验证是否被多收费。研究团队开发算法展示服务商多收费手段，还指出按字符计费可解决问题，但需行业达成共识。

文章从AI创业角度剖析GEO，介绍其原理、内容优化策略、实操建议、效果评估搭建、代表产品等，指出GEO与SEO不同，虽有争议但值得做，还探讨了相比SEO的更多想象空间。

为解决气动噪声数据中流动状态与空间位置分布不平衡导致的MLP预测精度不足问题，本研究提出多专家特征融合网络架构，以跨声速抖振气动噪声为算例评估，可降低MLP算法MSE，泛化性更好。

研究人员发现，将大模型返回的加密推理块扔给同厂小模型让其复述，就能破解大模型隐藏的思维链。如Anthropic、OpenAI、Google的模型均中招，还会带来隐私、安全等风险，虽已打补丁，但仍有难题。

纯Python写的开源项目Hermes Agent，在11项基准测试中以6:5战绩击败OpenAI用Rust写的Codex。它通过三大工程优化，将启动时间从701ms降至258ms。这表明在AI Agent领域，架构比语言性能更重要。

随着大模型热潮进入深水区，企业急需业务智能体，但因缺乏可量化评估标准，AI智能体应用面临选型、验收、优化困境。智合标准中心发起《企业级AI智能体应用效能评估规范》团体标准起草工作，现公开征集起草单位和个人。