「推理成本」共找到 3256 篇相关文章
首个基因推理AI 横空出世！准确率飙至97%，彻底改变基因组学研究
多伦多大学等团队发布全球首个基因推理AI模型BioReason，将DNA基础模型与大语言模型融合，准确率从88%提至97%，可解释基因组变异致病机制，有望上线Hugging Face，应用前景广。
首个开源「智能视频剪辑系统」，11个工作流覆盖所有视频制作场景，成本巨低！
今天分享开源智能视频制作系统OpenMontage，号称首个。它有11条完整生产流水线，覆盖几乎所有视频类型；有49个生产工具、400+个Agent技能。其成本低，功能丰富。
Hugging Face开源顶级模型：双模式推理+128K上下文，最强3B
今天凌晨，Hugging Face开源顶级小参数模型SmolLM3，参数30亿，性能超同类。它有128k上下文窗口，支持6种语言、双推理模式。架构细节等全开放，联合创始人强烈推荐，称是3B领域SOTA。
Deepseek 正式发布 V3.1：混合推理，Agent能力大幅提高，token消耗减半
Deepseek正式发布Deepseek V3.1，采用混合推理，支持双模式切换，上下文扩展到128k，API支持Claude Code调用。工具与Agent能力提升，思考效率更高，token消耗减半，官方渠道全面升级，9月6号起调整价格。
统一框架下的具身多模态推理：自变量机器人让AI放下海德格尔的锤子
当前先进机器人无法像人类自如用工具，现有多模态系统有局限。自变量机器人提出端到端统一架构，以统一表示学习和多任务多模态生成解锁具身多模态推理能力，实现范式转换。
英伟达4B小模型击败GPT-5 Pro！成本仅1/36
英伟达ARC - AGI 2中，4B小模型NVARC以27.64%成绩力压GPT - 5 Pro登顶，单任务成本仅其1/36。亮点是零预训练深度学习法，还靠合成数据、测试时微调等策略。小模型特定领域优化后优势明显。
英伟达推理服务器被曝高危漏洞，云端AI模型被攻击直接裸奔
安全研究机构Wiz Research曝光英伟达Triton推理服务器一组高危漏洞链，可组合利用实现远程代码执行，造成模型被盗、数据泄露等后果。英伟达已发布补丁，25.07版本前系统有风险。
最受欢迎的开源大模型推理框架 vLLM、SGLang 是如何炼成的？
文章介绍了开源推理引擎 vLLM 和 SGLang，包括起源、创新、社区发展、版本迭代等。vLLM 借鉴分页缓存管理技术，SGLang 基于 RadixAttention 优化。二者竞争激烈，性能趋同，还获投资与基金会关注，受科技公司青睐。
HumanSense：探索多模态推理边界，打造「察言观色会共情」的全模态交互伙伴
蚂蚁集团与西安交通大学联合提出并开源 HumanSense，含评估基准与推理模型。通过细粒度评测、全模态消融等研究，提出优化策略，项目已在 GitHub 和 HuggingFace 开源，推动 AI 交互体验革新。
Meta 新成立超级智能实验室，让大模型RAG推理速度飙升30倍
Meta新成立超级智能实验室（MSL），首篇论文REFRAG将RAG推理速度提升30倍以上。它先把上下文压缩成摘要再解码，减少计算量和延迟，在多任务测试中表现出色，为大模型部署提供实用方案。