搜索：推理框架开发

「推理框架开发」共找到 4703 篇相关文章

蚂蚁阿福：从 0 到生产的医疗 Agent 工程化落地｜QCon 北京

4月16 - 18日QCon全球软件开发大会将在北京举办，聚焦Agentic AI等前沿话题，有百余落地案例。蚂蚁集团郭春晓将分享《蚂蚁阿福：从0到生产的医疗Agent工程化落地》，探讨构建技术体系等内容。

BOSS直聘楠北阁团队发布3B轻量端侧小模型Nanbeige4.1-3B，性能震惊海外开发者。团队从多方面改进，如优化推理和偏好对齐，重构训练数据，采用多种强化学习算法，使其性能比肩大模型。

谷歌发布Gemini 3 Deep Think爆火后，OpenAI用未发布内部模型，一周内尝试解答10道来自数学家科研现场的真实问题，5道基本正确。这些题取自真实研究，切断模型“背答案”可能，意味着自主推理能力进化。

文章介绍 FlashInfer 的三个 SKILL 文件，涉及调试、性能测试、添加新 kernel 等开发场景。如通过装饰器做 CUDA 调试，提供两种计时方式做性能测试，还给出添加新 kernel 的 10 步流程及最终文件清单，实用价值高。

时隔21个月，豆包大模型2.0正式推出。它在多模态理解、企业级Agent、推理和代码能力上有提升，在多个基准测评中达业界最优。实测显示其在编程、数学问题处理上性能出色，性价比也具优势。

清华大学团队推出Dolphin模型，仅用6M参数，通过离散化视觉编码和热扩散注意力机制，实现单次推理精准分离语音，速度提升6倍以上，在多项基准测试中刷新纪录，为端侧设备部署开辟新路。

在 QCon 全球软件开发大会上，百度李志伟分享端侧大模型安全建设实践。介绍其发展趋势、优势与应用场景，指出面临隐私、内容等安全挑战，阐述云端与端侧安全方案，通过案例展示优化效果，展望未来安全建设方向。

青海大学等团队在《Nature》科学报告发文，调查三所川校师生对AI的焦虑与采用意愿。研究构建新框架，整合三种AI焦虑，发现不同焦虑对技术接受影响不同，学科和自我效能也会调节转化路径。

阿里发布总参数超万亿的Qwen3 - Max - Thinking，预训练数据规模达36T Tokens。在多项权威测试中表现优异，能与顶级闭源模型竞争。引入两项核心创新，千问App等已上新，网友认可其能力与更新速度。

放羊大叔Ralph Loop掀起生产力革命，无需手写代码，AI就能搞定软件开发。它把任务拆到最小颗粒度解决普通AI崩溃痛点。还介绍融入工作流的方法、运行方式及成本，强调掌握此技能的重要性。