「推理优化与部署」共找到 3521 篇相关文章
如何选择最佳多模态大模型压缩方案？哈工大、度小满开源EFFIVLM-BENCH基准测试框架
金融科技智能化转型中，LVLM部署受算力瓶颈制约。哈工大与度小满联合开源EFFIVLM - BENCH基准测试框架，能为多模态大模型压缩方案出具‘体检报告’，还揭示LVLM加速复杂性，推动技术发展。
3.7k星星！爆火开源网站GEO检测工具，老外靠教别人玩这个工具赚麻了
今年315让GEO被更多人关注，虽GEO滥用不行，但正常宣传可用。推荐开源网站GEO审查工具geo - seo - claude，它能多维度检测网站，给出审计报告和优化方案，还具备报告生成等能力。
孙正义要用10亿个智能体干掉所有程序员
软银创始人孙正义宣布集团迈入‘人类程序员时代的终结阶段’，计划让AI智能体全面接管编码和编程工作。今年将部署首批10亿个AI智能体，未来会有数万亿个投入使用，且成本低廉。
矩阵乘法新突破！XX^T原来可以更快！RL助力搜索，世界纪录又被提升了5%
深圳市大数据研究院、香港中文大学（深圳）研究团队，结合强化学习与组合优化技术，发掘新算法 RXTX，让 XX^T 运算减少 5% 运算量，成果在国际引发关注，不过产业化落地仍面临挑战。
完全运行在浏览器中的全功能 3D 建筑编辑器无需 AutoCAD\Revit，也无需每年 5,000 美元的授权费用，100%开源免费
Pascal Editor是完全在浏览器运行的3D建筑编辑器，开源免费，无需AutoCAD、Revit及高额授权费。它采用节点式场景结构，有多种特性，技术栈丰富，分层设计让核心逻辑可复用，性能优化亮点多。
Cursor SDK正式发布，“cursor” inside！
四月最后一天，Cursor正式发布TypeScript SDK，将智能代理运行时打包成可编程组件，跳出编程工具定义。它提供完整开发套件，支持双模部署，已有公司用其做三件事，还包含关键部分，Composer模型开放有战略价值。
MiniMax M2.5：230B参数仅激活10B，开源模型首次逼近Claude Sonnet，成本仅十分之一
MiniMax推出新一代开源模型M2.5，官方称其为‘为现实世界生产力设计的开源前沿模型’。性能逼近Claude Opus 4.6，采用混合专家架构，成本低。已在内部大规模部署，定位为‘AI员工’。
深夜炸场！Claude Sonnet 4.5上线，自主编程30小时，网友实测：一次调用重构代码库，新增3000行代码却运行失败
Anthropic推出Claude Sonnet 4.5，号称‘世界上最好的编码模型’，持续运行时长、推理等能力提升，‘幻觉’等问题改进，Claude Code也有更新，开发者实测有惊喜也有问题，新一轮AI‘内卷’开启。
天下武功，唯快不破：LLM高效架构最新最全面综述
大型语言模型虽成就辉煌，但训练成本高、推理延迟大，核心问题源于Transformer架构。这篇综述论文首次系统性梳理高效LLM架构创新方案，分类七大类方法，延伸至跨模态应用，为研究者提供‘效率蓝图’。
AI搜索引擎领域大哥Perplexity AI 三层重排序系统与核心排名因素揭秘，必看！
国外研究人员分析揭示Perplexity AI部分排名规则和因素。其有三层重排序系统，人工配置权威域名，热门话题与YouTube相关。还总结8个核心排名因素，并给出SEO优化策略，体现搜索重质量趋势。