「推理评估」共找到 2631 篇相关文章
全国首部AI智能体应用评估标准，现公开征集起草单位和个人！
2025年成AI智能体元年，市场规模爆发式增长，但企业部署面临‘效能黑箱’。智合标准中心发起《企业级AI智能体应用效能评估规范》团体标准起草，现公开征集起草单位和个人。
首个基因推理AI 横空出世！准确率飙至97%，彻底改变基因组学研究
多伦多大学等团队发布全球首个基因推理AI模型BioReason，将DNA基础模型与大语言模型融合，准确率从88%提至97%，可解释基因组变异致病机制，有望上线Hugging Face，应用前景广。
Hugging Face开源顶级模型：双模式推理+128K上下文，最强3B
今天凌晨，Hugging Face开源顶级小参数模型SmolLM3，参数30亿，性能超同类。它有128k上下文窗口，支持6种语言、双推理模式。架构细节等全开放，联合创始人强烈推荐，称是3B领域SOTA。
Deepseek 正式发布 V3.1：混合推理，Agent能力大幅提高，token消耗减半
Deepseek正式发布Deepseek V3.1，采用混合推理，支持双模式切换，上下文扩展到128k，API支持Claude Code调用。工具与Agent能力提升，思考效率更高，token消耗减半，官方渠道全面升级，9月6号起调整价格。
ICCV 2025 | UniOcc: 自动驾驶占用预测与推理统一数据集及基准平台
来自多所高校团队在ICCV 2025发表统一基准框架UniOcc，融合多源数据，有体素级运动流标注等创新，提出免真值评估指标，支持协同预测，已开源，能推动自动驾驶迈向新阶段。
统一框架下的具身多模态推理：自变量机器人让AI放下海德格尔的锤子
当前先进机器人无法像人类自如用工具，现有多模态系统有局限。自变量机器人提出端到端统一架构，以统一表示学习和多任务多模态生成解锁具身多模态推理能力，实现范式转换。
英伟达推理服务器被曝高危漏洞，云端AI模型被攻击直接裸奔
安全研究机构Wiz Research曝光英伟达Triton推理服务器一组高危漏洞链，可组合利用实现远程代码执行，造成模型被盗、数据泄露等后果。英伟达已发布补丁，25.07版本前系统有风险。
最受欢迎的开源大模型推理框架 vLLM、SGLang 是如何炼成的？
文章介绍了开源推理引擎 vLLM 和 SGLang，包括起源、创新、社区发展、版本迭代等。vLLM 借鉴分页缓存管理技术，SGLang 基于 RadixAttention 优化。二者竞争激烈，性能趋同，还获投资与基金会关注，受科技公司青睐。
北大提出首个复数大模型，2比特量化，推理仅加法，可手机部署！
北大团队提出iFairy方案，将模型权重量化到复数集合，用2比特表示，压缩至原本1/8。推理仅需加减或交换数据位置，成本更低。Transformer架构“复数化”，iFairy模型PPL降10%，性能反超全精度，相关成果已开源。
Meta 新成立超级智能实验室，让大模型RAG推理速度飙升30倍
Meta新成立超级智能实验室（MSL），首篇论文REFRAG将RAG推理速度提升30倍以上。它先把上下文压缩成摘要再解码，减少计算量和延迟，在多任务测试中表现出色，为大模型部署提供实用方案。