「推理流程」共找到 2759 篇相关文章
jiSGLang集成ktransformers:2TB内存运行Kimi K2 Thinking模型
对于内存多但GPU资源有限的用户,SGLang集成ktransformers的CPU内核,支持直接运行Kimi K2 Thinking模型。它无需等量化,还能微调,虽性能与GPU方案有差距,但给用户新选择。
Soul APP开源了一款高保真播客生成框架,90 分钟对话零崩盘!
Soul APP背后的Soul AI Lab发布开源项目SoulX - Podcast,是高保真推理框架,能生成90分钟以上连贯对话,有多方言切换等功能,或重塑语音内容产业生产方式。
清华、快手提出AttnRL:让大模型用「注意力」探索
清华和快手团队提出新框架AttnRL,引入注意力机制提升过程监督强化学习效率与性能。它解决传统方法在分支位置选择和采样策略上的效率问题,实验显示在多基准测试中表现优异。
可能是目前效果最好的开源生图模型,混元生图3.0来了
腾讯混元发布并开源原生多模态生图模型混元图像3.0,参数规模80B,是参数量最大的开源生图模型,也是首个开源工业级原生多模态生图模型,效果对标业界头部闭源模型。文中介绍其技术方案、测评效果等。
根据 YouTube 视频生成 Blog 文章的提示词
文章给出根据YouTube视频生成Blog文章的提示词,涵盖核心创作原则、文章生成流程与要求、全局风格与限制等,指导创作者将视频内容转化为优质博客文章。
黄仁勋出手!45倍性能暴涨,英伟达定义物理AI新纪元
在SIGGRAPH 2025上,英伟达发布「物理AI」全家桶。展示完整生态,含新硬件、仿真平台和AI模型。如RTX PRO 6000服务器显卡性能涨45倍,还推多款模型,应用于多领域,推动物理AI落地。
先用为快——企业微信 AI 新版深度剧透
本文深度剧透企业微信 AI 新版,其升级对 AI 办公解读和实践领先,场景把握佳。新增智能搜索、智能总结、智能机器人等套件,还有智能表格、邮件等特性,还升级海外版与私有部署版本。
Hugging Face开源AI Sheets:零代码调用千种模型,数据处理超简便!
Hugging Face团队开源AI Sheets,这是无代码工具,有类似Excel界面,集成数千开源模型处理数据,支持批量处理、模型比较等,支持本地和在线部署,在多方面优于同类工具。
谷歌开源结构化信息提取神器!4K+ Star,精准定位+交互式可视化!
在医疗、法律等领域,手动从非结构化文本提取信息费力,传统NLP工具需复杂训练。谷歌开源的LangExtract是高精度信息抽取Python库,能自动提取结构化信息,有精确源定位等功能,还给出使用示例和典型场景。
隼瞻科技重磅发布DSA处理器敏捷开发平台ArchitStudio,引领RISC-V专用处理器设计革命
第五届RISC - V中国峰会,隼瞻科技发布DSA处理器敏捷开发平台ArchitStudio。它是全栈式平台,集成深厚技术积累,提供完整支持,能解决传统设计痛点,让开发敏捷高效,推动行业发展。