搜索：通用推理技术

「通用推理技术」共找到 5071 篇相关文章

Meta「轻量级」KernelLLM颠覆GPU内核生成，8B参数碾压GPT-4o

Meta推出基于Llama 3.1微调的8B参数KernelLLM，能将PyTorch代码转高效Triton GPU内核。实测单次推理性能超GPT - 4o和DeepSeek V3，多次生成得分更高，让内核开发更易上手。

中科院自动化所与灵宝CASBOT提出DTRT方法获ICRA 2025录用。该方法利用Transformer和博弈论，将人类动态纳入长期预测，实验显示其预测精度和协作表现显著优于现有技术，有巨大应用潜力。

北京时间5月21日凌晨，谷歌在I/O大会发布众多更新。模型层面，为Gemini 2.5 Pro引入新推理模型和更好的2.5 Flash；谷歌搜索推出AI模式；还亮相视频模型Veo 3等，编码助手Jules公测。

香港中文大学10页论文提出新算法RXTX，用于计算矩阵与其转置的乘积XXᵗ。该算法结合机器学习搜索和组合优化技术，能源可节省5%-10%，时间节省5%，对多领域有深远影响。

消息系统在分布式架构中至关重要，消息代理选型常缺系统方法。文章剖析 Apache Kafka 与亚马逊 SQS 特性，对比它们在命令、ECST、事件通知三种消息模式下的适配性，为选型提供参考。

过去，开发者让大模型用数据库查询数据需开发插件等，费时费力且难复用。StarRocks MCP Server 提供通用接口，让 LLM 标准化访问 StarRocks，执行 SQL 查询。MCP 规范模型与上下文交互，其核心组件分工明确。

本文聚焦vllm v1中管控模型分布式推理的核心Executor部分，介绍其4种类型及适用场景，以mp类型为例阐述Executor - Workers架构，还说明了大小数据在两者间的传输机制及原理。

文章基于对一线投资机构访谈，指出AI开启新篇章，模型投资降温，应用时代来临。还探讨DeepSeek与Manus影响、Agent发展路径、AI原生硬件等多领域现状与趋势，为创业者和投资人提供参考。

文章是对多家投资机构的访谈，探讨AI投资与创业趋势。涉及Manus成功经验、DeepSeek影响、模型公司前景、应用机会等，还谈及创业者应对策略、投资策略变化及行业未来思考。

本文是量子位作者对阶跃星辰新发布的开源旗舰大模型Step 5 Preview的实测与解读，介绍了其参数架构、评测排名、成本优势，展示了多类任务实测效果，分析了技术路线与行业价值。